东晋末年，北府将领刘裕控制朝政。占据山东地区的鲜卑慕容氏南燕政权，此时便乘东晋衰乱之际屡次侵扰东晋边境。义熙五年(409年)二月，慕容超大掠淮北，刘裕兴兵北伐。四月，率水军从建康北上，沿淮河，越大岘(今山东沂水北穆陵关)，次年攻破南燕都城广固(今山东益都西北)，收复青、兖两州，追获慕容超，斩首建康。七年(411年)，镇压卢循起事军。八年(412年)，消灭了刘毅，以及可能形成威胁的诸葛长民、晋朝宗室司马休之等，清除异己势力，巩固了后方。九年(413年)，西攻谯纵，收复巴蜀。十二年(416年)后秦主姚兴病卒，子姚泓继立，兄弟相杀，关中扰乱。刘裕乘机率大军分兵四路北伐后秦，进攻关洛。途经黄河，击败北魏军。翌年进克洛阳，至潼关，命大将王镇恶直趋长安，姚泓投降，后秦亡。晋军收复长安，在少数民族统治下达百年的汉族百姓纷纷响应。这时留在朝廷坐镇的尚书左仆射刘穆之病故，刘裕怕政权旁落他人之手，便留次子刘义真镇长安，王修、王镇恶等率兵万余辅佐，自己仓促返回建康。长安留守军内讧，夏主赫连勃勃乘机夺取关中。刘义真虽被迫撤出长安，但自潼关以东、黄河以南直至青州已为南朝版图，江淮流域得到保障，这是祖逖、桓温、谢安经营百年所未能达到的。刘裕在朝廷中声望也达到极点，进而实现禅代。

纵观东晋王朝，虽曾屡屡兴师北伐，然北伐之军每每功败垂成，始终未能恢复中原、完成一统。其原因是多方面的，首先是朝廷多方牵制。东晋王室害怕北伐将帅功高难制，故对他们多方限制、监督，不肯充分信任与支援。祖逖之北伐曾受晋元帝之掣肘。桓温反对「永结根于南垂，废神州于龙漠」的苟安态度，请求还都洛阳、「一切北徙」，但上表至十数次均不得批准。其次，东晋的世族又多苟且偷安。当时皇室和南来之北方世族均把江南当作人间乐土，醉生梦死，贪图苟安，胸无大志。如有的大臣认为「田宅不可复售，舟车无从而得」，还都洛阳系「舍安乐之国，适习乱之乡」。江南本地的望族受朝廷重用，也不希望皇室北还。南北世族对寒族出身的将领更是多方排斥、处处牵制。

北伐失利的另一原因是内乱频连不断。东晋偏安江南，大权多握重臣悍将之手，致内乱频生，如王敦之乱、苏峻之乱以及桓玄篡立等等，影响了北伐的根本大计。此外，北伐的将帅又每多心怀叵测。北伐将领之中，固不乏忠义之士，如祖逖等，但也有的像刘裕等人，具有政治野心，每区区权衡个人之利害得失，未能把北伐坚持到底。

除了上述西晋方面的因素，北伐失败的重要原因在于当时北方胡人武功颇盛。五胡之政权虽呈割据纷争之态，但整个北方均为其所占，势力十分庞大。加以胡人多勇敢骠悍，一时很难制服之。