自從出道以來，劉裕給人的印象就是擅長打硬仗，但這並不意味著他不喜歡摘桃子。這株桃樹雖然不是他種的，但為了讓桃子成熟他也是施過肥的，沒理由讓赫連勃勃那些人給摘了去。於是，義熙十二年（公元416年）八月，也就是在姚興去世半年之後，劉裕的各項準備工作差不多已經就緒，可以對北方一試身手了。
和以往的出征一樣，劉裕這次的準備也是分兩方麵進行的，首先仍是對內。大軍出征，後勤的重要性不言而喻，而保證後方政局的穩定和安全則更不可少，否則家裏起火，前方還能打仗嗎？世上沒有無根之樹，江南是劉裕的根基所在，不能不用心打點。
盡管此時所有看得見的朝中反對派都已被劉裕鏟除了，但大權在握的劉太尉依然非常小心。這大概是與他自己的發跡史有關：劉裕就是在幾乎一無所有的情況下揭竿而起，推翻桓玄，成為東晉政壇第一人的。以己度人，誰敢說像當年自己一樣躍躍欲試的人如今就不會有？因此不管多謹慎都是沒錯的！何況現在因不滿他低下的出身、不滿他強硬的政策、不滿他飛揚跋扈，而在暗中對他敢怒不敢言者還大有人在。劉裕對此心知肚明，要不然討伐司馬休之時，怎麼會平白冒出那麼多叛軍？
所以，為了避免曆史重演，按照先安內後攘外的原則，劉裕先給剛滿十歲的長子劉義符封了一大串官銜：中軍將軍、監太尉留府事，成為京城名義上的留守最高長官。劉義符隻是一個資質平庸的孩子，當然做不了大多數成年人都不見得能幹好的複雜工作，所以實際留在朝中管事的人是劉裕最忠實的老部下劉穆之，他也被加授為尚書左仆射兼中軍府軍司，住進東府，全權處理朝廷內外政事。
劉穆之的工作效率非常高，此時他對內總管各種政務，對外供應北伐大軍的糧草軍需，事務極為繁重。按史書的記載，劉穆之能夠同時閱讀上報的文件，書寫批示回複，聽著一個下屬的彙報，還能與另一個下屬討論實施方案，一心四用，而且從不會混淆錯亂！不過，這種服務器式的工作量，不管放在誰的身上都是超負荷運轉，不可能長久維持，這種情況不聰明的人也能看出來，所以劉裕屬下的谘議參軍張劭曾悄悄對劉裕說：“人的生命其實很脆弱，必須考慮長遠。劉穆之萬一過世，誰能接替他的工作？”
於是，劉裕把老同事徐羨之任命為太尉左司馬，擔任劉穆之的副手。除此之外，劉裕命自己一手提拔的左將軍朱齡石負責戍衛宮禁；劉裕從母之子劉懷慎，沾劉裕報恩的光，已經成為徐州刺史，此時被劉裕調任京都警衛；還有親信揚州別駕張裕暫時替自己代理揚州牧職務。總之，劉裕在中央上上下下的要害位置上全換上了自己信得過的人。
劉裕有信得過的人，自然更有信不過的人，其中以晉安帝的弟弟琅琊王司馬德文為最。說句實在話，司馬德文夠規矩了，從沒給劉裕找過麻煩，比司馬休之還要安分，手中又無兵無糧，本不該享受這一待遇的。但誰讓司馬德文是皇帝的弟弟，整天在皇帝身邊（司馬德文是安帝司馬德宗的大保姆，一直照顧吃喝都不能自理的白癡哥哥），而且智商又很正常。這樣的人即使沒有異心，也很容易成為有異心者的工具，何況劉裕又怎麼會相信司馬德文能心甘情願坐等晉朝滅亡？自己這次要遠離建康，在傻皇帝身邊有這麼一顆定時炸彈，能放心嗎？