後秦的叛臣尹衝、尹泓一路迤邐地來到東晉的國都建康，徑直投奔了劉裕，因為在他們的心目中，劉裕不僅是一個位高權重的重臣，而且是一個令世人敬慕的英雄。
他們受到高規格的禮遇，劉裕謙誠地接待了他們，噓寒問暖，關懷備至，讓他們大有相見恨晚的感覺。他們也不隱瞞，把關中混亂的消息傳到江左，傳給劉裕。
本來後秦屢次侵犯邊境，招納朝廷叛臣，讓劉裕恨上加恨，正要騰出手來，傾國討伐後秦，但苦於後秦無隙可乘。尹衝、尹泓的邂逅到來給他帶來意外的希望，他大喜過望，如獲至寶，讓府中的差役把兩個落難的人伺候得如墜雲霧，舒舒服服，樂意為他驅馳和使用。
他把自己關進一間小小的屋子，一個人單獨思考進取、吞並、消滅後秦的方略，吩咐親兵牢牢把守屋門，任何人沒有許可不得闖入見他，否則殺勿論。他繞著沙盤地圖，詳細比較兩國的實力，比周邊環境，比國內安定，比統治能力，比將領優劣，比兵強馬壯，最後得出討伐後秦的結論。
東晉的官員在江南偏安久了，沒有多大進取心，與討伐南燕時差不多，劉裕一提出北伐後秦，立即招來鋪天蓋地的反對雜音。說什麼的都有，文臣蔡廓等人固執地認為：“乘喪伐亂，不仁不義。”
“苻堅淝水之戰失敗，姚萇乘人之危，落井下石，逆取天下，哪有仁義可言？” 劉裕感到他們腐儒好笑，忍不住反唇相譏。
琅琊王司馬德文慢吞吞地引經據典，曆數北伐失敗的戰例，即使像祖逖、桓溫那樣赫赫有名的將軍，費了九牛二虎之力，到頭來還不是竹籃打水一場空。他並不是不想北伐，而是不想在劉裕的統帥下北伐，劉裕的力量本來夠大的了，已遠遠地超出朝廷（說白了也就是他們弟兄倆）的掌控，如果再北伐成功，那劉裕的功勞、勢力、影響豈不更大？誰還能控製得了？司馬家的皇位恐怕姓劉了，想到這些，他不寒而栗，挺身而出，巧妙地委婉地反對劉裕提出的北伐，他也隻能做到這些，因為他深知劉裕在朝中的厲害，明目張膽地反對隻能碰一鼻子灰。
盡管如此，劉裕還是聽懂了德文的意思，心說別的人反對可以，唯獨姓司馬的阻撓值得推敲，此前大臣們勸他榮膺大寶的聲音越來越高，他始終保持清醒的頭腦，自認為功勞還不足以讓全天下人悅服，等拿下關中，讓晉廷禪位，一切順理成章。
他暗暗冷笑，眼裏射出兩道冷漠無情的光，在德文那張幹瘦、精明的臉上久久地不肯移去，心裏憤恨無比，說話口氣卻異常冷靜：“在我的心裏，一百多年的民族恥辱像蟲子似的悄悄爬行，光複山河的誌向一刻也沒有泯滅，我承認祖逖、庾翼、殷浩、桓溫、謝安北伐是沒有成功，但今非昔比，我們有一個穩固的江南後方，有一批能征善戰的將士，攻無不克，戰無不勝，拿下長安，指日可待。”
聲音洪亮，鍠鍠震耳。一群大臣仍然嘰嘰喳喳地胡說八道，隻有一個人皺著眉頭深思，一言不發，他就是太尉府的司馬徐羨之。
縱觀徐羨之與劉裕的情誼，僅僅用“可以”兩個字是不夠的，當初他們在桓修的麾下一同共事，羨之是撫軍中兵曹參軍，與劉裕深相親結，等劉裕建立義旗，羨之出任鎮軍參軍、尚書庫部郎、領軍司馬。
傅亮見羨之坐在朝堂不起眼的地方，沉默不語，輕輕地拽他的朝服，驚問緣故。
羨之微微一笑，胸有成竹地回答：“我位至二品，官俸二千石，誌願久充。如今各路平定，拓地萬裏，隻有姚羌未定，太尉為此寢不安席，食不甘味，意量乖殊，誌在必得，何可輕豫？”
聰明的傅亮“哦”一聲，伸出粉紅色的舌頭，機警地看了看群臣，似乎悟出什麼。隻見群臣依舊亂哄哄的沒有形成統一的看法，仍然在為北伐與否辯得麵紅耳赤。
遊說是傅亮的強項，利用中間休息的空閑，不失時機地串通幾個主戰的大臣，把北伐的聲勢造得大大的，讓反對者也不得不改弦易轍，投入到支持北伐的行列。
劉裕奏明皇帝，說的好聽是奏明，其實是自己定好的計劃，給皇帝像征性地淡淡地說了幾句，傻皇帝豈能做他的主？自然加封他征西將軍，兼司、豫二州刺史。
從朝上回來，他便從容地安排長子義符為中軍，監留府事，劉穆之為左仆射，領監軍中軍二府軍司，入居東府，總攝內外，徐羨之為副，左將軍朱齡石守衛殿省，徐州刺史劉懷慎守衛京師。
北伐戰略思想其實很簡單：以主力大軍由淮水、泗水，沿黃河西進，攻占戰略重鎮洛陽；以少數兵力由武關進擊，牽製關中秦軍，然後奪取潼關，直攻長安。
北伐軍兵強馬壯，浩浩蕩蕩，共分為五路：
以龍驤將軍王鎮惡、冠軍將軍檀道濟率步兵為前鋒，自壽陽(今安徽壽縣)沿淮水、淝水進攻許昌、洛陽。王鎮惡自淝水出漆邱（今河南商丘）攻向滎陽；檀道濟自潁水出項城，攻向許昌，會師洛陽，待劉裕所率主力到達，再繼續西進。