苻堅一直逃到淮北才敢停下。很快各處傳來消息，百萬秦軍只剩下三十多萬，其餘除少量戰死被俘外，大多潰散逃亡。龍驤將軍姚萇的十萬水軍在巴東遇到晉將桓石虔的阻擊，多日不能前進，得知秦軍主力大敗後，又退回成都。冠軍將軍慕容垂所率三萬鮮卑兵全師而退，正駐守在許昌。苻堅遂帶領自己的三千名親軍去投奔慕容垂。
慕容垂本來帶兵在鄖城與桓沖十萬大軍對峙。苻堅在淝水潰敗後，他便打算北撤，但又擔心桓沖追擊，於是派士兵晚上把儘可能多的火炬點燃，系在樹梢之上，光照數十里。桓沖看到晚上的火把，估摸對方至少有二十幾萬人，以為慕容垂的援軍到了，所以不敢追擊。慕容垂這才從容北退。
慕容垂等人聽說苻堅來投。慕容寶建議趁此機會殺死苻堅起義。慕容垂不同意，他說自己這樣做就是恩將仇報。他要在不違背良心的原則下得到天下，不會做這樣的事情。
慕容德勸說他道：「我們是為國家報仇雪恥，並不是違背良心！」
參軍趙秋說：「如果你想復興燕國，現在就是機會。殺死苻堅後，佔據鄴都，然後帶兵西進。天下必是你的！」
慕容垂仍是不為所動，不但把苻堅接到營中好好招待，甚至把兵權交給苻堅。苻堅對慕容垂既感激又信任，於是領著這支兵馬從許昌出發向西，一路收容被打散的小股部隊，等到了洛陽的時候，部隊已經有十五萬之眾，後勤儲備也比較充實。苻堅在洛陽待了半個月後，開始向長安進發。
慕容垂的三子慕容農這一次向父親請求帶兵離開苻堅，到河北謀求發展。慕容垂再一次拒絕。
苻堅的軍隊來到澠池時，隴西鮮卑酋乞伏步頹造反了。正巧秦軍的前鋒將軍乞伏國仁是乞伏步頹的侄兒，乞伏國仁忙向苻堅表示忠心，並請命去征討乞伏步頹。乞伏鮮卑部落是從乞伏山（今賀蘭山東北抵黃河的銀川一帶）遷徙到苑川（今甘肅省蘭州市東）的一支少數民族部落，開始只是鬆散的游牧部落，只有簡單的官制，沒有固定的國界，只是為了生存而戰爭。東晉咸和（326—334）年間，石勒的後趙勢力漸漸伸入秦隴，乞伏部的首領乞伏傉大寒只得北遷到麥田無孤山（今甘肅省靖遠縣北）游牧。前秦苻健在位的時候（351—355），傉大寒的兒子司繁又東遷到度堅山（今甘肅省靖遠縣西）。公元371年，前秦苻堅派將軍王統率兵討伐。司繁統領三萬騎兵在苑川抗擊，被王統打敗。乞伏司繁投降苻堅。後因乞伏司繁幫助前秦屢建戰功，授使持節、都督討西胡諸軍事、鎮西將軍。乞伏司繁死後，由其子乞伏國仁代行其職。也就是說，乞伏國仁是乞伏部落中傳統意義上的最高首領。
也正因為如此，乞伏國仁帶兵去討伐乞伏步頹，乞伏步頹反而出來迎接，並勸說乞伏國仁自立。乞伏國仁沒有敢公開反叛宣布獨立，但是他率軍隊割據隴西，並召集鮮卑各部，聚集了十餘萬軍隊，並脅迫周圍諸郡背叛前秦，擁立自己，等待機會叛秦。
苻堅把乞伏國仁派走後，慕容垂也向苻堅辭行，稱河北也有叛亂，自己願意去河北替秦國鎮壓。因為許昌讓兵權的事，苻堅很信任慕容垂，遂說你去吧，有你在，河北我可以無憂了。
慕容垂北去後，權翼剛剛帶一支軍隊趕來，聽說苻堅讓慕容垂帶兵去了河北，著急道：「完了，完了！慕容垂絕非久居人下之將，此去河北必然自立。」請求苻堅立即派人把慕容垂抓回來。
苻堅不好意思派兵把慕容垂抓回來，便想了一個補救辦法，派驍騎將軍石越率精兵五千去戍鄴城，驃騎將軍張蚝率五千羽林軍去鎮守并州，鎮軍將軍毛當率七千兵去守洛陽，藉以牽制慕容垂。權翼再勸苻堅，苻堅仍然堅持自己的做法。權翼走出大帳嘆氣道：「關東就要大亂啦！」
權翼心有不甘，自帶一支人馬去追，慕容垂早就快馬加鞭，抄近路日夜兼程，跑得遠遠的了。權翼沒能追上慕容垂，只得回兵隨苻堅入關。
到了長安城下，苻堅忽然放聲大哭不肯入城。群臣問苻堅為何，苻堅道：「朕是哭我的弟弟苻融啊。如果當年聽了他的話，何至於有今日之辱？」遂令在城外駐紮，全軍換上白衣孝服，先祭奠了苻融及陣亡將士，又去王猛墓前祭拜，這才入長安城。
不久，洛陽傳來急報報，說丁零、翟斌在新安聚眾七千造反，原燕國宜都王慕容桓之子慕容鳳也率三千鮮卑士兵造反。平原公苻暉派毛當鎮壓慕容鳳，被慕容鳳擊敗殺死。現在翟斌和慕容鳳正聯兵進攻洛陽。苻堅急忙命令長樂公苻丕調冀州兵南下平叛。
這時，在鄴城駐軍的苻丕剛剛迎接到慕容垂的軍隊，他本來想把慕容垂殺死，但侍郎姜讓認為慕容垂是來幫他平叛的，雖然此人很可疑，但沒有殺他的理由，最好暫時先不要動他，不然會引起非議。苻丕於是親自把慕容垂迎入鄴城，殷勤招待，但對慕容垂還是很忌憚。正好苻堅援助洛陽的命令下來，苻丕趕緊打發慕容垂率三千鮮卑兵去洛陽，並派廣武將軍苻飛龍率一千名氐族騎兵隨軍監視。
慕容垂領兵南行到安陽湯池便不走了，停下來招兵買馬，很快聚齊八千士兵。苻飛龍催促慕容垂進兵。慕容垂繼續行軍，在行軍途中派慕容麟、慕容隆突襲苻飛龍，將苻飛龍和他的一千氐族騎兵全部殺死，又派參軍田山潛回鄴城通知慕容農等三人，讓他們趕緊逃出鄴城。慕容農與慕容楷、慕容紹等人帶了親信數十人騎快馬連夜出城。這時正是大年初一，苻丕大會賓客，派人去請慕容農赴宴，去的人卻見慕容家中空無一人，苻丕趕緊派人四處搜捕。數日後傳來消息，慕容農等已在列人縣（今河北邯鄲肥鄉縣東北十五里）起兵反叛，招募軍隊三萬人。
與此同時，慕容垂已經到了洛陽城下，正在圍攻洛陽城的翟斌、慕容鳳全部歸附慕容垂。慕容垂分析形勢說，洛陽四面受敵，不利於作為根據地長期佔據，如果北取鄴城，則可以先得河北之地，然後以其為根本而得天下。
慕容垂的意見得到大家的響應，於是慕容垂率軍撤洛陽圍殺向鄴城。路過滎陽的時候，滎陽太守余蔚、昌黎鮮卑衛駒等率軍隊來投奔，並請慕容垂立國，上尊號。慕容垂遂自稱大將軍、大都督、燕王，承製行事，建元為燕元，稱為統府。史稱後燕。
到這個時候，慕容垂手下軍隊已經多達二十萬，遂由石門渡河，向鄴城進軍。
苻丕手下的部將石越帶兩萬軍隊正和慕容農在列城大戰。慕容農夜襲秦營，石越大敗後自殺。慕容農得勝後也帶兵攻向鄴城。
苻丕見慕容垂帶大兵壓境，不敢出戰，死守城池。慕容垂久攻不下，只好一邊把鄴城圍住，一邊派人到肥鄉（今河北省邯鄲市肥鄉縣）築造新城，以做根據地。
苻堅見慕容垂果然造了反，正打算調兵遣將去鎮壓。慕容的弟弟，北地長史慕容泓也在華陰（關中平原東部，陝西省華陰市）起兵造反了，自稱都督陝西諸軍事、大將軍、雍州牧、濟北王。苻堅十分鬱悶，他對權翼說：「當時不聽你的話，結果造成了這個局面。關東的地方就不說了，關中的慕容泓不可不除！」急調雍州牧、巨鹿公苻睿回長安，以左將軍竇沖為長史，龍驤將軍姚萇為司馬，出兵五萬，出討慕容泓。
造反之勢如星火燎原。苻堅這邊才剛起兵，山西平陽太守慕容泓的弟弟慕容沖也反了，並率兵馬二萬進攻蒲阪。苻堅只得把五萬部隊分成兩路，一路由竇沖領兵去征討慕容沖，另一路由苻睿、姚萇帶領去征討慕容泓。
在華陰，慕容泓被秦軍打敗，帶兵向東逃竄，苻睿親自帶三千騎兵星夜追趕，欲全殲慕容泓。不幸的是苻睿帶兵追到華澤（今山西永濟南），路過一片沼澤，一下子全陷進去了。這真是人倒霉了喝涼水都塞牙。慕容泓熟悉地形，早繞過了這片沼澤向西逃，突然聽說苻睿的騎兵全陷入沼澤中了。慕容泓急忙帶一千弓箭手騎快馬奔回，對著苻睿的軍隊一陣狂射。可憐苻睿及其三千騎兵，全被射死。慕容泓這才從容退去。
等姚萇帶著後軍到了，只看到沼澤中一片凄慘的景象。姚萇只好派長史趙都、參軍姜協去向苻堅謝罪，自己繼續追擊慕容泓。苻堅一聽自己最小的兒子叫慕容泓亂箭射死在沼澤當中，心痛萬分。這事本來和趙都、姜協無關，他們只是來報信的，卻被苻堅遷怒，當即被拖出去斬首。姚萇聽趙都和姜協被殺了，估摸著自己更不可免，於是把軍隊解散，帶著十幾名親信跑到渭北去了。
慕容泓見沒了追兵，便留在晉南招募鮮卑士兵，很快聚集五萬士兵。這時慕容沖剛被竇沖打敗，於是也率敗軍一萬趕來投奔。慕容泓派使臣給苻堅說，秦國當年滅了燕國，而現在燕國的吳王慕容垂已平定關東。請您把我們燕國的皇帝和皇室宗室功臣全家都送回到鄴都，以後秦燕兩國以虎牢關為界，可以永遠做好鄰居。
苻堅見了這封信，氣不可遏，當即讓人把慕容帶上殿來，把這封信扔在他面前大罵不止。慕容害怕狂怒的苻堅把他全家殺了，叩頭一直到額頭流血，一再謝罪。最後苻堅還是心軟了，並沒有懲罰慕容，只