晉軍要班師回朝的消息傳開之後，關中之地的父老鄉親聽說劉裕要返回江南，一個個自發組織起來，跑到劉裕的大營之前痛哭流涕，“我們這些漢族遺民，一直都在被胡人統治，已經沒有接受漢人的教化一百年了，直到前不久才看到漢家衣冠重現長安，人人都互相慶賀，長安城外的十座皇陵乃是劉公的祖墳，鹹陽城（注：代指長安）中的宮殿也是您劉家的宅院，如今劉公要放棄它們，又要去到哪裏？”（劉裕的祖宗可以推溯到漢高祖劉邦的弟弟楚江王劉交，所以這些老百姓才這樣說。）
劉裕看到這些老百姓確實是真心誠意地墾請他留下，就是以劉裕的性子在此時也流下了感動的眼淚，他也不是不想恢複漢人祖宗的國土，但是現在他更多的卻是一個政治家，他要為自己的身家性命所考慮，為跟在自己身後的那一群人考慮。
因此劉裕隻得好言勸慰，“諸位鄉親父老，我這次是接到了朝廷的命令不敢擅自停留，感謝諸位懷念故國的誠意，但是請諸位放心，我劉裕並不是不管這兒的鄉親了，我把自己最喜愛的次子留在這裏，然後安排了一批有才能的人來輔佐他，同時也希望你們和好共處，守好我們大家的領土。”
劉裕的話不是沒有道理，在場眾人都能感覺到劉裕的誠意，遂也不再糾纏，十二月三日，劉裕從長安出發，然後自洛水進入黃河，再開掘汴渠返回彭城，這是他原定返回的計劃。隻是劉裕這一走，轟轟烈烈的北伐大業僅僅完成了一大半還沒有徹底完成，便告一段落，實在是令人惋惜，更重要的是因為劉裕安排的留守大將不當，導致長安日後的內亂和得而複失那才是最叫人痛心的。
夏王赫連勃勃聽說劉裕返回江南之後，大喜過望，他早就對關中垂涎三尺了，隻是一直顧忌劉裕的存在，才不得不與他虛與委蛇，暗中卻在後秦原來的重鎮安定郡（今甘肅省涇川縣北）訓練士卒，隻等時機一到，便放馬入關。
赫連勃勃，字屈孑，原名劉勃勃，他出身於出匈奴鐵弗部落，他的父親劉衛辰乃是鐵弗部的首領，劉勃勃出身於一個匈奴貴族家庭之中，從小受到良好的教育，史上稱他善騎射，多智謀，可是他的父親在代國的拔拔珪征戰時大敗而歸，後來被部下所殺，劉勃勃從此就過上了顛沛流離的生活，後來他投靠了後秦的姚興，姚興對他很是看重，大加封賞，可是這個劉勃勃純粹就是一個白眼狼，對於他有恩的人他從來都不是奉行有恩必報，對待恩主就如同仇人一樣，別的不說，他當年落魄時得到過嶽父沒亦幹的許多幫助，可是後來一發達就把嶽父給殺了。
姚興還活著的時候，他就已經磨刀霍霍地從後秦身上割下了許多的地盤，姚興一死，他就盯上了關中這塊根基之地，可是這時候劉裕來了，他思忖了許久，知道自己還不是劉裕的對手，就打算趁劉裕走後再奪取關中，那樣就容易得多。
這時候他馬上就召來了心腹王買德，向他詢問如何取得關中的計策，王買德大誇海口，“關中的地理位置十分重要，而劉裕卻叫他的幼子鎮守，自己卻急不可待地跑回建康城，肯定是想要篡奪晉朝的皇位，所以沒有把中原這塊地盤再放在心上，這可是天賜良機，我們一定不能放過，至於如何進兵，小臣是這樣想的，青泥（注：今陝西藍田）、上洛（注：陝西商洛）是溝通關中南北的兩個險要重鎮，陛下不如先派遊擊部隊騷擾這兩個地方，切斷晉軍的糧道和退路，然後派後堵住潼關及崤、陝穀地那一邊的古道，切斷他們與外麵連通的水陸通道，然後陛下就向三輔地區發布檄文，這樣恩威並施之下，劉義真這個小屁孩就如同甕中之鱉，想逃也逃不了，到陛下手到擒來，不費吹灰之力。”
赫連勃勃聽了之後大喜過望，果然不愧為軍師之才，然後依計行事，赫連勃勃任命他的長子撫軍大將軍赫連璝為都督前鋒諸軍事，率領騎兵二萬人直奔長安，命第三子前將軍赫連昌堵住潼關，任命王買德為撫軍右長史，屯駐青泥，而赫連勃勃本人則親自統率大軍尾隨在後。赫連勃勃此時也是學著劉裕分兵前進，然後自己率大軍鎮守後方，以防備北魏可能出現的人馬。
公元418年正月，夏軍的前鋒赫連璝率領二萬騎兵出現在渭陽（渭水以北），關中之地有許多的百姓都紛紛前來投靠夏軍，投降的人數多不勝數，絡繹不絕，此時劉裕大殺後秦宗室的惡果就顯現出來了，不過這也不是第一次了，早在去年閏十二月的時候，秦州，雍州的百姓就有一千多戶投降了北魏，後麵又有逃亡的百姓不斷湧入北魏，不過這些人應該是氐，羌的胡人百姓，不是漢人。
龍驤將軍沈田子此時正駐防在長安的北方，馬上率軍出戰，可是到了之後才現夏軍勢大，居然有兩萬騎兵，兵力相差實在懸殊，自己的人馬不是敵手，就退回了劉回堡，然後派人向鎮守長安的王鎮惡要援軍。