从东汉开始陆续迁入黄河流域的匈奴、鲜卑、羌、氐、羯、卢水胡、丁零等族，到西晋时已经有了不小的数量。在长期与汉族和各族的杂居中，经济文化水平都有了一定的提高，尤其是各族的统治者和上层人士，大多已具有相当强的政治、军事才干，适应了中原的生产和生活方式。这些民族的首领既要摆脱汉族统治者对他们的歧视和压迫，也要乘机夺取权力和财富，成为地区以至全国的主宰。西晋皇族和统治集团内部的火并给他们提供了最好的机会，于是十几个政权先后在黄河流域、辽河流域和四川盆地建立起来，又匆匆地在其他政权的吞并中消失。

成汉

298年（晋惠帝元康八年），关中连年饥荒，巴氐（原在巴地的一支氐人，东汉末年迁至陇东和关中）首领李特率流民入蜀。到了301年（晋永宁元年），益州刺史罗尚限流民在七月返乡，流民要求秋收后出发也未准许。十月，流民推李特等为首，起兵于绵竹（今四川德阳市北），进攻成都。304年（晋永安元年），李雄称成都王。306年（晋光熙元年）称帝，国号大成。因以后李寿在338年改国号为汉，史称成汉。成汉的疆域大致是今四川省除川西高原部分和汉中盆地的西部。东晋永和二年（公元346年）桓温伐成汉，李势降，成汉亡。

汉、前赵

304年（晋永安元年）匈奴左贤王刘渊以助成都王司马颖为名，在离石（今山西离石县）起兵，不久就迁至左国城（今离石县北），称汉王。308年（晋永嘉二年）攻占平阳（今山西临汾市西南），迁都蒲子（今山西隰县）。同年十月刘渊称帝，国号汉，次年迁都平阳。311年，汉军攻入洛阳，晋怀帝被俘。316年（晋建兴四年）兵临长安，晋愍帝出降，西晋灭亡。汉将刘曜攻占关中，石勒攻占了关东，317年前后，汉的疆域北至阴山、今桑干河、燕山，南至淮河、秦岭，西至黄河、陇东。318年（晋大兴元年），汉主刘粲被权臣靳准所杀，刘曜在长安称帝，与石勒起兵讨伐。次年刘曜改国号为赵，建都长安，史称前赵。石勒也自称赵王，与前赵分裂，史称后赵。前赵初建时的疆域东起洛阳，西至陇西黄河，北至渭北高原和今山西西南。以后受石勒打击，退至关中。328年（晋咸和三年）石勒大破前赵军，刘曜被俘。329年，后赵将石生攻下关中，前赵亡。

后赵、冉魏

319年石勒（羯人）称赵王后，建都襄国（今河北邢台市）；330年（晋咸和五年）即帝位。在灭前赵后，后赵已拥有汉、前赵的最大疆域，并一度越过淮河和南阳盆地，威胁东晋的北部。石虎即位后迁都于邺。后赵末年发生内乱。349年（晋永和五年）石虎死后，他的养孙石闵（汉人）杀赵主，并在邺和境内屠杀一切羯人和胡人。