東晉義熙三年，也就是劉裕的恩人揚州刺史王謐病死，劉裕趁機掌握整個東晉權力的那一年。後秦把那個為拓跋珪求婚的倒霉使者放回北魏，並送給北魏一千匹良馬。北魏則把當年魏秦之戰時的秦軍被俘將領狄伯支、唐小方等人放回來。前秦和北魏握手言和。
劉勃勃在後秦經過多年的經營，這時候已經很有勢力了。他以北魏為自己的世仇，而與北魏言和的後秦同樣也是自己的敵人為理由起兵造反。其實劉勃勃早有獨立之心，現在是恩將仇報。當年後秦要是不收留劉勃勃，他可能早就流落不知所終了，哪兒能有今天的地位。
劉勃勃以打獵的名義悄悄地接近高平川，不過他這次打獵帶的不是普通的侍從，而是三萬名精騎兵。他帶三萬精騎兵突襲高平川，殺死沒弈干，吞併了沒弈乾的部落。沒弈幹當年收留劉勃勃，並極力向姚興推薦，使劉勃勃得以富貴。他甚至把自己的女兒嫁給了劉勃勃，結果卻被這個中山狼給幹掉了。
劉勃勃不久自稱大夏天王，設置百官，史稱胡夏。但劉勃勃的胡夏國沒有固定疆域，沒有都城，甚至連國土都沒有，打到哪裡算哪裡，後勤補給完全靠搶掠補充。他的部下都勸劉勃勃給自己弄塊根據地，這麼搞大家都弄得像土匪似的，而且也不利於國家經濟實力和軍事實力的增長。劉勃勃說：「你們說得都很有道理。可憑咱們現在的實力根本不是姚興的對手，你如果經營城市，姚興必然攻克，你如果劃定疆域，姚興一定佔領。那咱們經營根據地不是等於替姚興白白地幹活么？現在咱們是打得過則打，打不過則跑。敵人不想打了，咱們出其不意地攻擊；敵人前來追擊，咱們又迅速退走。使前秦疲於奔命，而我們則保存了實力。只需要十年的工夫，前秦必然會退出嶺北、河東一帶。姚興死後，他的嗣子姚泓遠不如他的父親，是個無能之輩，那時我們再出兵攻滅後秦，必成大事。」事實證明了他這個戰略是相當正確的，後來前秦雖然名義上擁有嶺北、河東，但所有城池大白天也不敢開城門，所有軍隊都龜縮在城市中，生怕受到胡夏軍隊的游襲。城市以外的大片土地，實際上都算是讓給了胡夏。
南涼的禿髮傉檀雖然向前秦稱藩，但畢竟是一個獨立的割據政權，所以對前秦並沒什麼忠心，而是一直想謀取前秦的土地，擴大自己的實力。正好涼州別駕宗敞和傉檀是心腹舊交，他向傉檀出主意說，你打不過前秦，其實也可以得到涼州。只要你去藩稱臣，姚興必然會把涼州交給你管理。到時候，涼州可不戰而得。
傉檀很高興，立刻去年號，不稱王，向姚興稱臣，又獻給姚興戰馬三千匹、羊三萬頭。姚興很高興，覺得這個人還是挺忠心的，遂把傉檀封為涼州刺史，讓他帶領舊部鎮守涼州的首府姑臧，原涼州刺史王尚回長安。
涼州人都捨不得王尚調走，一致推舉主簿胡威去長安向姚興求情。胡威道：「傉檀只用三千匹戰馬，三萬頭羊就換取了涼州，這個買賣您太吃虧了。您想想，涼州有三千戶居民，只要每戶出一匹戰馬，就是三千匹；每戶出十頭羊，就是三萬頭。早上你發個命令，下午就能給你送過來。這有何難？這麼富饒的地方如果給了傉檀，他的勢力將更大，必成為前秦的禍患！」
姚興於是又擔心傉檀將來反叛自己，急忙派人去告訴王尚繼續當他的涼州刺史，同時派車普去通知傉檀不要去姑臧了。車普和傉檀也是好朋友，他快馬加鞭，日夜兼程，找到了傉檀。但他不是通知傉檀回去，而是告訴他趕緊加快速度去姑臧，姚興已經改主意讓王尚繼續留下來了。
傉檀急忙把人馬分成兩隊，一隊騎兵由自己帶領，輕裝前進，快速向姑臧進發。傉檀到姑臧後，通知王尚的使臣還沒有到。王尚便和傉檀交接完畢，然後帶兵離開了姑臧。等王尚在回去的路上接到通知時，木已成舟。
姚興只好讓傉檀待在姑臧。其實通過傉檀搶佔姑臧這件事姚興也看出來，傉檀根本不是自己能夠用得動的忠心臣子，其實還是一個割據的藩鎮而已，只不過是換了個臣子名義。
劉勃勃的游擊戰雖然讓前秦非常鬱悶，但畢竟嶺北、河東的城市還在前秦手中，劉勃勃進行戰略補給和發展生產都受到很大的制約。於是他把目光轉向傉檀的南涼。劉勃勃把南涼當做他的大糧倉，沒糧的時候就去南涼打一仗搶幾萬頭牛羊回來；沒有馬的時候再去南涼打一仗，搶幾千匹馬回來；沒奴隸的時候，需要補充兵源的時候，再去南涼搶人……
傉檀幾乎都要讓劉勃勃這種強盜行為逼瘋了，他幾次帶大兵出戰，維護自己的國家，但都被打敗。最慘的一次，南涼被胡夏軍殺死一萬多人，大將陣亡十幾人，其餘部卒全部逃散。禿髮傉檀帶著幾個親兵狂奔回到姑臧，劉勃勃的追兵在他屁股後面追著打。
姚興看到傉檀在劉勃勃面前表現得如此窩囊，便也出兵想奪回姑臧。他派兒子姚弼，大將斂成、乞伏乾歸等將領，率三萬軍隊進攻南涼。傉檀躲在城內，卻弄了幾萬頭羊趕到城外。秦軍只見白羊不見兵，於是高高興興地捕起羊來。傉檀等秦軍的隊伍混亂之後，帶騎兵出擊，大敗秦軍。姚弼帶著敗軍撤回。這一仗打完後，傉檀乾脆和姚興撕破了臉，自稱涼王。別說是稱臣，就連稱藩也免了。
北邊秦軍的將軍齊難也吃了劉勃勃的敗仗，兩萬精騎兵只剩下了五千。姚興親率數萬秦軍再與劉勃勃決戰，劉勃勃堅持游擊戰爭，姚興找不到主力，駐軍又受襲擾，只好退兵。姚興退兵後，劉勃勃乘機在敕奇堡、黃石固、我羅城等地又大大地劫掠了一番。姚興干著急生氣，卻想不出對策。
第二年七月，西秦的乞伏乾歸趁秦國和胡夏的戰爭日益頻繁，率眾在隴西復國，以苑川為都，稱西秦王，以乞伏熾磐為太子。後秦此時已經顧不上收拾西秦了。
南燕就是在這個背景下來長安向後秦求救兵，姚興也想救南燕，可哪裡抽得出來部隊，只好派人去嚇唬劉裕說：「我已經派了十萬大軍駐在洛陽。你們要是不退兵的話，我就要進攻了！」
劉裕對來使說：「你回去告訴姚興：我本來想滅掉燕國之後，息兵三年，然後再去進攻秦國。既然姚興想提前送上門來，就讓他來吧。」
劉穆之怕劉裕激怒姚興，對劉裕道：「如果後秦發怒，真的派兵來攻，我們可是要腹背受敵了。」
劉裕笑道：「他要真的派兵來救，早就派兵來了。何必還來通知我一聲，怕我不知道呢？這必是無兵可派，虛張聲勢嚇唬我。」
南燕慕容超見求不來救兵，十分著急，便派人向劉裕求和，願意割地稱藩。劉裕沒有答應，一定要滅燕。慕容超只好再次派人去後秦求援。這次不是派普通的使臣，而是派了一個高級別的政府官員，尚書令韓范。韓范在外交上很有一套，所以這一次後秦竟然在捉襟見肘的情況下，抽出一萬部隊由衛將軍姚強帶領去救南燕。但部隊快到洛陽的時候，突然有快馬追到，說劉勃勃再一次大敗秦軍，要姚強迅速帶兵回援。韓范看著姚強帶軍回去，不由長嘆：「燕國要亡了！」
副使張綱道：「既然燕國要亡，不如咱們就去秦國吧。」
韓范道：「燕亡國後，接著就是秦國。我不可以兩次受辱，不如直接投奔晉國。」
韓范投奔劉裕後，劉裕立刻任命他為散騎常侍，並邀請韓范同車，繞城巡視。一邊繞城，一邊命令晉兵大聲呼喊：「劉勃勃大破秦軍，無兵相救！」
城內的士兵一直堅守待援，現在聽說秦軍不來了，又見韓范和劉裕共坐一車，軍心頓失。劉裕趁機讓韓范到城下勸降。韓范道：「我不忍心。」劉裕並不強求，反誇他忠心，於是日夜攻城。但連攻八個多月，廣固城竟然巋然不動。劉裕經過查訪，有人指點他堵住五龍山的水道，使水不能入城。
劉裕遂派人把五龍山水道堵住。城中雖然可以掘井取水，卻因為喝不到五龍山的水，缺少某種礦物質，城中得軟腳病的人越來越多，嚴重的根本不能行走。士兵因此大幅減員，留下的戰鬥力大減。更可怕的是，疾病使城中瀰漫著恐怖氣氛，很多人開始想逃出城去，以避免成為殘疾。
在這種情況下，劉裕終於攻破了廣固城，慕容超拒不投降，道：「興廢原有天命，我寧奮劍致死，不願銜璧求生。」慕容超戰至最後一人，終於被擒。押到劉裕面前時，慕容超鎮靜自若，毫無懼色。因為劉牢之的兒子劉敬宣被南燕收留過，二人有舊交，所以慕容超把母親託付給劉敬宣，自己被押到建康後斬首，在位六年，死時二十六歲。南燕遂亡。
劉裕入城後，因為圍攻了將近一年才打下來這個城池，便想進行大屠殺報復。韓范苦苦為百姓求情，最後劉裕把燕室宗族三千人全部斬殺，家屬一萬餘人發作奴婢。
就在劉裕剛剛攻破南燕廣固城的時候，盧循、徐道覆正在率大軍向建康殺去。朝廷已經向劉裕下了幾次急詔，催他回去抵禦盧循的叛軍。劉裕一直堅持到城破，這才趕緊帶兵南歸。
劉裕北伐南燕之後，始興相徐道覆勸他的小舅子盧循去攻襲建康，斷劉裕後路，再與南