北魏是鲜卑族拓跋部所建。鲜卑拓跋部原居于今东北兴安岭一带，后渐南迁至蒙古草原，以“射猎为业”，靠游牧为生。东晋咸康四年（338年），其首领什翼犍称代王，建代国，都盛乐（今内蒙古和林格尔一带）。公元376年为前秦苻坚所灭，其国被分为二部。

前秦亡后，公元386年元月什翼犍之孙拓跋珪复国，继称代王，四月称魏王,改国号为魏，史称北魏，拓跋珪即太祖道武帝。拓跋珪在后燕军的支援下击败窟咄于高柳（今山西阳高县西北）。又破刘显于弥泽（今山西朔县南）。从而安定了拓跋部，接着征讨诸部，公元388年，北破库莫奚部于弱落水（今内蒙古西拉木伦河），破解如部于女水（今河北滦河）。公元389年又破叱突邻部于女水。公元390年与后燕军讨贺兰、纥突邻、纥奚诸部，大破之。公元391年10月大破柔然于大碛南林山下（今蒙古人民共和国赛尔乌苏西南），平望川（今蒙古人民共和国雅台南方）、涿邪山（今蒙古人民共和国阿尔泰山东麓），将柔然各部降众徙于云中（今内蒙古和林格尔县西）。11月大破刘卫辰子直力隄于铁岐山（今内蒙古固阳县西南）。自金津（今内蒙古伊金霍洛旗西北）渡河，灭刘卫辰。黄河以南（今内蒙古鄂尔多斯高原）悉归附。于是东起濡源西至阴山，复归统一。

以后，北魏开始与后燕交锋。公元395年后燕慕容垂派太子宝及慕容农、慕容麟率兵八万进攻北魏。在参合陂（今山西大同市东南）被北魏杀得大败，燕军元气大丧。公元396年后燕慕容垂亲征，病卒于上谷（今河北怀来县南）。于是北魏攻取燕广宁（今河北涿鹿县西）、上谷。公元398年拓跋珪迁都平城（今山西大同市东北）。并正式称帝，年号皇始。并大举伐后燕，占有今山西、河北地区，

公元409年拓跋珪死后，长子明元帝拓跋嗣继位，史称明元帝。他以长孙嵩、安同、崔宏等8大臣共听朝政。又使燕凤、封懿等共议政事。时关中为夏赫连勃勃所统治，黄河以南为东晋，后为南朝宋所统治。辽西为北燕所统治。凉州为北凉、西秦所统治。漠北为蠕蠕所统治，其铁骑经常侵扰北魏边境。当时黄河南岸的碻璈城（今山东茌平县西南）、滑台（今河南滑县东南八里城关）、洛阳（今河南洛阳市东北白马市东）、虎牢（今河南荥阳县汜水镇），地居冲要，为双方争夺的重要军事据点。公元422年，北魏大举渡河攻滑台、虎牢、洛阳（金墉城）、碻璈。十一月，宋东郡太守王景度弃滑台走，以元苟儿为兖州刺史镇滑台。十二月，叔孙建等自平原东渡，东入青州取泰山、高平、金乡等郡，娥清军碻璈城。公元423年于粟磾克金墉城，为豫州刺史镇之。奚斤南取豫州诸郡县，克许昌，又还助攻虎牢，取之。北魏称虎牢等四城为河南四镇。于是司州及兖、豫二州大部郡县皆属北魏。