拓跋鲜卑于258年（魏甘露三年）从五原迁至盛乐（今内蒙古和林格尔县北），形成部落联盟。传至禄官（公元295—308年在位）时，分部众为三部：一部在上谷以北、濡源西（今河北丰宁县西），一部在代郡参合陂（今山西大同市西）之北，一部居盛乐，控制的范围向南扩大到今山西境内桑干河一线。当时另有白部鲜卑居于并州北部（今山西北部），晋永嘉四年（公元310年），拓跋首领猗卢协助晋并州刺史刘琨击败白部鲜卑和铁弗匈奴刘虎部，作为酬谢被封为代公，并获得五县之地，疆域又扩展到今山西代县、朔州和繁峙一带。315年（晋建兴三年）建代国，以平城（今大同市）为南都。代建国三十九年（公元376年）为前秦所灭。

386年（晋太元十一年）拓跋珪收集旧部复国，同年迁都盛乐，称魏国，史称北魏。皇始三年（公元398年）迁都平城。北魏从后燕、夏夺取了大部分疆域，又先后灭北燕、北凉，到太武帝拓跋焘在位时（公元424—451年）基本上统一了北方。孝文帝太和十七年（公元493年）迁都洛阳。

北魏刚统一北方时的疆域大致北至今中蒙边界稍北，蒙古高原和今叶尼塞河上游、贝加尔湖一带有柔然、高车（敕勒）、契骨等部族，其中柔然与北魏为邻，最为强大，在今蒙古杭爱山脉的东段车车尔勒格一带建有可汗庭。北魏的东界已退至辽河以西，控制今大凌河下游，辽东成为高句丽的范围。北魏的西戎校尉府驻在扜泥（今新疆若羌县），控制着焉耆（今新疆焉耆县）和鄯善一带，但未能扩展到西域其他地区。南界在今黄河以南，占有今河南中部及山东西北局部。

南朝宋元嘉二十七年（公元450年，北魏太平真君十一年）北伐失败，魏军反击，一度到达建康（今江苏南京市）对岸长江边，从此疆域扩展至淮河一线，南朝仅保住今江苏北部。但北魏在西部已失去对西域的控制，退至伊吾（今新疆哈密市）。

北魏永熙三年（公元534年，梁中大通六年），孝武帝讨伐权臣高欢未成。出奔关中，依靠宇文泰在长安建都，史称西魏。高欢另立元善见为帝，迁都邺，史称东魏。东、西魏的界线大致在黄河、今山西西南、河南西部、湖北北部。

东魏武定五年（公元547年，梁中大同二年），侯景以河南地降梁，使梁的疆域扩大到淮河以北。这时，吐谷浑首领夸吕（公元529—591年在位）称汗建国，540（西魏大统六年）以伏俟城（在今青海湖西岸布哈河河口附近）为都。西魏的西域部分为吐谷浑所占，伊吾被柔然占有，西界退至敦煌。

东魏武定八年（公元550年，西魏大统十六年，梁大宝元年），高洋废孝静帝自立，国号齐，史称北齐。