劉裕在平定孫恩盧循之亂和桓玄篡位兩大事件後，順利掌握了晉朝的軍政大權，他對內以嚴法約束百官，削弱世族，整頓朝廷之後，開始將目光朝向北方。
這時的北方大勢一片混亂。
自從前秦淝水之戰失利後，苻堅和他的漢化氐族政權土崩瓦解，各地重回胡人割據的態勢。
其中最強的當屬鮮卑族的北魏，他們從塞外而來，具有極強的騎兵部隊，搶奪了後燕的河北之地。
在他們的攻勢下，慕容垂建立的後燕已經被壓縮到遼東的一隅，滅亡隻是時間問題。
其次就是虎踞關中的羌族後秦，秦王姚興也是一代明主，但後秦被夾在強大的北魏和劉裕掌控的東晉之間，日子屬實難過，並且國內各族林立，剛剛自立的匈奴胡夏正在赫連勃勃的統領下與後秦展開遊擊戰，後秦雖強，卻愈發有雙拳難敵四手之勢。
隨後就是因為桓玄自立而導致蜀地再度割據的譙蜀政權，還有慕容垂之弟慕容德割據山東半島建立的南燕。
至於在甘肅河西走廊上花樣百出的各個涼國與割據漢中的仇池等小勢力就不再一一贅述。
劉裕選擇先易後難，率先進攻勢力弱小的南燕。
先是，南燕皇帝慕容超為了迎回身在後秦的母親和妻子，答應了秦王姚興向後秦稱臣的需求，除此之外，姚興還開出兩個條件，一是索求會跳太樂的舞女，如果不行，就派人送來一千名東晉人來。
慕容超隻能選擇派兵劫掠東晉邊鎮，肆虐淮北，這就給了劉裕發兵的借口。
公元409年，劉裕自建康率舟師溯淮水北上入泗水，打通後勤通道，留船艦、輜重在下邳，全軍改由陸路進至瑯邪。
為防南燕以奇兵斷其後，劉裕所過之處皆築城壘，留兵防守。
慕容超年輕氣盛，對晉軍進入其境不以為慮，他二十多歲的小腦袋瓜兒裡都是慕容家族的英雄們馳騁疆場的身影，把劉裕擋在國門外有什麼意思，放他們進來，我大好慕容男兒帶領騎兵把晉軍全殲不香嗎？
往遠了說，這是古代白起的用兵，殲敵有生力量，往近了說，叔父慕容垂枋頭之戰全殲桓溫北伐主力，你看東晉這麼多年敢哼哼一句麼。
於是，慕容超在殲滅戰之路上越走越遠。
於是，一路上劉裕不曾遭遇抵抗。
直到越過大峴山，劉裕真正跨過了山東半島的南天門，才長舒一口氣，說此戰我必勝。
慕容超得知晉兵已過大峴山，自率步騎十萬，控制臨朐城南的巨蔑水，與晉軍前鋒孟龍符遭遇，南燕大將公孫五樓戰敗退走。
劉裕以戰車四千輛分在左右兩翼，兵、車相間，晉軍騎兵在後，緩緩向前推進。
慕容超一聲令下，南燕大軍在平原上向晉軍大陣發起沖擊。
激戰之際，劉裕采納參軍胡藩之策，如韓信背水之戰故事，派兵繞後，乘虛攻克臨朐城。
南燕軍見後路被截斷不禁大亂，晉軍全軍沖鋒，大獲全勝，陣斬南燕十餘大將。
慕容超單騎逃回首都廣固。
劉裕乘勝追擊北上，攻克廣固外城。
慕容超退守內城。
劉裕築圍困之，招降納叛，爭取民心，並就地取糧養戰。
秦王姚興也不能眼睜睜看著自己小弟被滅，就派步騎兵一萬，屯駐洛陽，為救南燕打造聲勢；另一方面他遣使向劉裕宣稱，後秦以十萬兵屯洛陽，若晉軍不還，當長驅而進。
劉裕打了一輩子仗，還是第一次被戰爭要挾，他一眼就識破了姚興的虛張聲勢，當場跟使者表示，好啊，你們打過來，我就打過去，不服就拼一拼唄。
誠然，打仗都是陰謀詭計，姚興如果真有力量打過來，他肯定選擇悄悄做成，越是威脅，就越顯得心虛。
而最終，姚興被赫連勃勃牽制，分身乏術，隻得坐看劉裕滅了南燕。
公元410年二月，晉軍攻入廣固內城，俘虜皇帝慕容超，南燕滅亡，劉裕入城後，盡殺南燕鮮卑族王公以下三千人以泄憤。
慕容超被押送回建康，在街頭斬首示眾。
然而，劉裕在朝中的得勢引發了劉裕集團內部個別元老的不滿。
合夥人劉毅不滿足於劉裕屬下的身份，在荊州割據，公然反對劉裕。
同樣都是北府兵出身幹倒桓楚上位的元老，憑什麼你劉裕是老大，我劉毅就不行呢？
還真不行，人家劉裕是主角。
公元412年，劉裕親自領兵攻打荊州，劉毅的部眾一聽劉裕親自來，一下就沒了作戰之心，劉毅見士無鬥志，自己大勢已去，便上吊自盡。
在統合了荊州力量後，劉裕開始了攻滅譙蜀的作戰規劃。
當年十二月，劉裕僅讓大將朱靈石率兵兩萬攻入蜀地。
臨行前劉裕特別將一封密函交給朱齡石，示意他到白帝時才能打開，故此大軍自荊州出發後一直都不知循何道進軍，譙蜀亦無從探知劉裕的圖謀。
至白帝時，朱齡石公佈密函：大軍一律經外水攻向成都，臧熹、朱林在中水攻取廣漢，命弱兵搭乘十多艘高艦由內水兵向黃虎。
明白劉裕的戰術佈置後，朱齡石火速行軍。
而譙蜀果如劉裕所想，設主力防備內水，晉軍於是能順利逃過敵方主力的堵截，兵鋒直抵成都。
公元413年，晉軍成功滅亡譙蜀，劉裕滅蜀後，下令精簡各地的勞役，讓人民得到短暫休息。
公元416年正月，姚興逝世，後秦政權內部叛亂迭起。
劉裕認為這是滅亡後秦的良機，於是在八月，劉裕以心腹諸葛–劉穆之任尚書左仆射，內總朝政，外供軍糧，自己親率大軍北伐。
龍驤將軍王鎮惡、冠軍將軍檀道濟領兵由淮、淝轉向許、洛，後秦諸屯守皆望風降附，晉軍進展神速。
十月，王猛之孫王鎮惡率軍占領洛陽。
晉軍來勢洶洶，又是劉裕親自出馬，這引得北魏的巨大不安。
於是北魏派十萬重兵駐守河北，並以騎兵在黃河北岸騷擾晉軍。
劉裕在行軍中，雖常設奇陣或用大弩強槊擊敗魏軍，但進軍速度緩慢，前方王鎮惡和檀道濟兩位大將得不到有效的增援，紛紛求救。
劉裕數次派兵上岸攻擊魏軍，可剛一登岸，魏軍騎兵就利用高機動逃離岸邊。
為此劉裕命數千勇士及百乘戰車，攜帶強弓利箭，登上黃河北岸，列陣而進，因此車陣背靠黃河，如彎月而列，故而後世成為『卻月陣』。
魏將長孫嵩率騎兵三萬四面圍攻晉軍，卻被劉裕的卻月陣打得大敗。
在整個作戰過程中，劉裕部署周密，水路各軍配合密切，謀略運用完美，戰術使用得當，使強大的魏軍鐵騎無機可乘，處處被動，堪稱戰術史上的奇跡。
北魏軍隊潰逃，劉裕得以火速趕至潼關前線，與諸部將會合。
他采納王鎮惡的提議，用水軍從黃河入渭水，奇襲長安，後秦皇帝姚泓率群臣投降，後秦滅亡。
這是自五胡亂華以來，漢人政權首次同時收復長安和洛陽的豐功偉業。
就在劉裕剛剛消滅強大的後秦之時，建康傳來噩耗，他在建康的代言人劉穆之因病去世。
劉裕第一次慌了，他已經五十四歲了，他奮鬥一輩子，消滅了那麼多對手，已經可以謀朝篡位了，但自己如今遠在長安，建康沒了劉穆之就沒有了自己的影子，一切可能化為烏有。
於是劉裕草草班師回朝，完成一系列禪讓步驟，終於在公元420年正式登基稱帝，建立宋朝，史稱南朝宋，開啟了南北朝的新時代。