時桓修手下司馬刁弘引文武佐吏數百人，在城外屯紮，欲與桓修報仇。劉裕命眾兵緊守四門，乃親自登城樓上，而謂司馬軍吏曰：“今郭江州已奉乘輿反正於潯陽，我等受密詔誅逆黨。今日賊玄首已當梟於大航，諸君非大晉之臣乎？何故助賊為亂耶？”刁弘等老臣，信以為實，乃邀眾退散去訖。是日孟昶因勸桓弘出獵，次日天尚未明，弘使人開門出獵，早被劉毅、劉道規等率壯士數百人，直入內堂斬之，因收其眾濟江。眾同推裕為盟主，總督徐州事，以昶為長史，守京口。裕率二州之眾千七百人，屯於竹裏，移檄遠近響應。
卻說桓玄設朝，文武出班山呼禮畢。群臣奏曰：“劉裕與劉毅、何無忌謀反，聚眾斬桓修及弘，宜火速興兵去討。”玄聞弘與修死，垂淚不已，即宜頓丘太守吳甫之、右衛將軍皇甫敷，領兵北拒義兵，又遣桓謙總之，三將受命欲行，玄謂謙曰：“賊兵銳甚，計出萬死，若有蹉跌，則彼氣成而吾事去矣！不如屯大軍於覆舟山以待之，彼空行兩日，求戰不得，自然散去，此策之上也。”謙辭即行去了。
遊擊將軍何澹之奏曰：“前劉裕進謁小臣，小臣左右造說裕身光耀滿室，小臣恐其不為人下，奏知陛下，陛下不以為意，今日果為患耳！臣觀劉裕聚烏合之眾，集蟻聚之兵，勢必無成。陛下何慮之深也？”玄謂何澹之曰：“劉裕勇冠三軍，當今無敵，足為一世之雄。劉裕家無擔石之儲，為樗蒱一擲百萬。何無忌，牢之之外甥，酷似其舅，共舉大事，何謂無成？朕前之不料，今噬臍無及也！”言訖，悶悶入宮，群臣罷朝。
卻說劉裕為盟主，以孟昶為長史總後軍，劉穆之為司馬，其時百姓願從者千餘人。率軍分作三隊起行，行至竹裏遣使移檄都下。
三月成午，裕兵至江乘，遇吳甫之兵到，劉裕乃親執大刀，大呼出陣，聲若巨雷。甫之一見，隻是不敢交鋒，撥回馬便走。
裕以身先拍馬追斬甫之，麾令三軍並進，將士無不苦戰，都皆以一當百，斬首數百級。追至羅落橋，方自鳴金收軍，屯於橋下。
裕乃鳴鼓集眾，商議進京之計。忽流星馬報說：“皇甫敷引大兵前來拒戰。”當時檀憑之出謂曰：“不勞盟主親陣，小將願與一戰。”裕乃許之。憑之即出披掛，引部下兵出陣，與皇甫敷對敵。兩馬相交，雙戟並舉，二人戰上十餘合，憑之氣力不加，大敗走回本陣，被皇甫敷驟馬追趕，射一箭正中後心，翻身落馬，死於陣中。劉裕在陣上一見大怒，驅坐下馬，挺手中刀，如飛殺出陣來。遇了皇甫敷就戰，未上十餘合，裕乃佯敗拖刀便走。敷隻道是敗，去趕，不曾提防，被劉裕勒回坐下馬，舞起手中刀，望敷迎頭一砍，砍死皇甫敷於馬下。引兵殺進，殺得楚兵逃走無門，大隊兵至離京城二百裏下寨。
至次日，裕乃升帳，號泣檀憑之，情動三軍，無不下淚。
而又使人去尋憑之屍首，以棺木盛之，遷葬京口。初，劉裕與憑之眾人欲建大業，有善相者請裕相。裕與何無忌等近當大貴，惟雲憑之無相，至此憑之戰死，裕知其事已驗而深信之。
卻說桓玄聞皇甫敷等皆死，軍馬已臨京城，心中大懼。乃遣桓謙以兵二萬，屯於東陵口拒之。又使卞範之以兵二萬屯於覆舟山西犄之。
卻說劉裕領義兵先詣升帳，聚眾畫策進兵。當眾將皆言曰：“今桓玄使桓謙屯東陵口，卞範之屯覆舟山西，吾所進者，隻此二路。今敵占之，吾兵難以進也。不如退兵，先取別郡，俟其無備，方可進也。”劉裕見說大怒曰：“吾非一功至此，豈可畏而去之，是無始終也！吾明日自有破範之及桓謙之策。”
次日，使何無忌守寨，尋土人引路，自乘小車於覆舟山僻之處，遍視地理。因山嶺峻險，棄車乘轎，或自步行。忽到一山，望見一穀，形如長蛇，皆是峭壁，雜絕樹林之間，止有一條小路。
裕問土人是何地名？土人曰：“此乃覆舟山穀。”裕曰：“此乃天賜吾殺玄兵於此處也。”言訖，即回本寨，喚孟昶監軍製油被一千條；又喚何無忌至前，吩咐引兵一千，執皂白二旗，分作兩隊以為疑兵，屯於覆舟山東等處，使桓謙疑不敢進。又令孟昶監五百軍人，將油被掛覆舟山對麵諸山穀。又令：“劉毅引兵三千挑戰，可佯敗，引桓謙至山穀，放火焚謙大軍。吾自領兵埋伏，待其兵過，分截接戰，汝等諸將，臨期如令，不得有誤，倘有漏泄，定按軍法。”眾將得令，各各依計準備而行，計排已定。