作為一位軍事家，劉裕很清楚：在戰略上可以藐視敵人，但在戰術上要重視敵人。考慮到關中的情況與關東大不一樣，後秦在那裏經營多年，根基較穩，精兵良將都聚集在那裏，不是輕易可以拿下的。因此劉裕原先下達的指令也很穩重：晉軍東線的四路大軍在洛陽會師，完成第一階段任務後，暫停進攻，等待劉裕本人親自統率的後續及輜重後勤部隊。繼續進攻應該等到後方完全安全（主要是防止北魏介入），且大軍會師後再開始。
劉裕本人也是按這個計劃行事的。他在彭城過完義熙十三年的新年後，沿途的水道已經疏浚一新，且運糧用的大船以及各種物資已準備停當，便留下隻有十歲的第三子劉義隆守彭城，自率水師從彭城出發，沿著王仲德部走過的路線向洛陽進發。
不過變化總能改變計劃，原本在洛陽等待劉裕大軍的王鎮惡等人發現：潼關、蒲阪一帶的後秦軍隊為了平叛，正急速西調，屏蔽關中的兩大要地一時變得防備空虛，唾手可得。在洛陽的晉軍眾將商議之後，認為戰機不可失，便決定不等待劉裕的後續軍隊，也不顧軍糧不足的困難，立即開始攻擊行動。
洛陽的晉軍是分頭行動的，主力由王鎮惡、檀道濟、沈林子等人率領，西進攻擊潼關、蒲阪，朱超石和胡藩二將則沿黃河東下，任務是保障後路的安全並迎接劉裕大軍的到來。
西進的王鎮惡、檀道濟等部開頭是很順利的，很快就拿下了宜陽、澠池。在澠池，王鎮惡找到當年對他有恩的李方一家，重金酬謝，並立即任命李方為澠池縣令，實踐了他當年“若遇英雄主，要取萬戶侯，當厚相報”的諾言。
然後王鎮惡命部將毛德祖襲擊正駐防在蠡城（又稱南澠池，在今河南洛寧西北，《晉書》及《資治通鑒》稱蠡吾城，似誤）的後秦弘農太守尹雅。尹雅出戰，馬上就被晉軍擊潰，他本人也在逃亡中被毛德祖派出的晉軍輕騎抓獲。不過尹雅也真是個人物，打仗雖然不太在行，但卻逃生有術，竟然乘晉軍鬆懈時，殺掉看守，又逃回了潼關。
西進大軍繼續前進，攻陷陝城，並在這裏兵分兩路：檀道濟、沈林子率一路北渡黃河，攻克襄邑堡（今山西芮城縣西北），目標直指蒲阪；王鎮惡則率其餘軍隊沿黃河南岸西進，指向潼關。這次分兵原因不詳，事後看來，應該算是西征諸將的一個失誤。
正所謂貪多嚼不爛，檀道濟、沈林子進入河東地區後，又分了一次兵，派偏將苟卓進攻匈奴堡，結果被後秦的寧東將軍姚成都擊敗，這是晉軍北伐後秦以來打的第一場敗仗。檀道濟對蒲阪的進攻也不順利，後秦的新任並州刺史尹昭據城死守，輕裝前進，缺少攻城裝備的晉軍一時也攻打不下來。
更讓王鎮惡、檀道濟等人大失所望的是：姚恢實在是太不爭氣了！要造反就該有點專業精神嘛，怎麼這麼快就讓姚紹給消滅了！由於姚恢失敗得太快，讓後秦能夠迅速抽出兵力，馳援潼關、蒲阪前線。
姚泓先是派將軍姚驢增援蒲阪，胡翼度進駐潼關，隨後，又給戰功卓著的叔父姚紹進位為太宰、大將軍、大都督、都督中外諸軍事、假黃铖，並進封魯公（姚紹的原爵位東平公則封給了姚讚），再集合步騎五萬餘人前往潼關抗敵。總之，姚泓讓姚紹成為後秦全部軍隊的總司令，後秦的存亡就全托付給這位英勇善戰的叔父了。
因此，等晉軍到達這兩地時，原以為防備空虛，很好拿下的地方都已有重兵把守，戰機已在轉瞬之間消失。
這一點很快在戰場上體現了出來。姚驢的援軍渡過黃河，出晉軍側後，與尹昭的蒲阪形成表裏之勢，夾擊攻城的檀道濟。檀道濟隻好修築野戰工事，深溝高壘，堅守不戰。
建武將軍沈林子見晉軍已經把進攻戰打成了防禦戰，蒲阪其實已成雞肋，棄之似乎有味，食之其實無肉，便勸檀道濟及時調整部署。他說：“如今看來，蒲阪城堅池深，守軍也不弱，不是短時間內能夠攻下來的。一定要強攻，隻會白白地損失士卒，正好給守軍拖延時間的機會，我軍不如幹脆不管它，揮師南下，先拿下潼關。和蒲阪相比，潼關才是通往關中真正的咽喉要地。現在王鎮惡雖然已經到達潼關，但他兵力單薄，形勢孤危，難以獨自攻取，如果不能速戰速決，讓姚紹將潼關的防務安排妥當，那就更難對付了。我們隻要乘姚紹新到，立足未穩，迅速攻下潼關，則姚紹也將無能為力，而蒲阪的尹昭、姚驢部隊，更將不戰自潰！”
檀道濟也是個大將之才，對戰局的看法與沈林子一致。以現在的兵力要想同時拿下潼關和蒲阪是不可能的，隻能集中力量攻取更關鍵的要點。於是二人便放棄對蒲阪的攻擊，南下與王鎮惡部會合，於三月初渡過黃河，逼近潼關，從而拉開了長達五個月的潼關爭奪戰序幕。