謝安派出的將領胡彬，率領水軍沿著淮河向壽陽進發。在路上，他得知壽陽已經被前秦的前鋒苻融攻破。胡彬隻好退到硤石（今安徽鳳台西南）紮下營來，等待謝石、謝玄的大軍會合。
苻融占領壽陽以後，又派部將梁成率領五萬人馬進攻洛澗（今安徽淮南東），截斷了胡彬水軍的後路。晉軍被圍困起來，軍糧一天天少下去，情況十分危急。
胡彬派出兵士偷偷送信給謝石告急，說：“現在敵人來勢很猛，我軍糧食快完，恐怕沒法跟大軍會合了。”
送信的晉兵偷越秦軍陣地的時候，被秦軍捉住。這封告急信落在苻融手裏，苻融立刻派快馬到項城去告訴苻堅。
苻堅一連得到秦軍前鋒的捷報，更加驕傲起來。他把大軍留在項城，親自率領八千名騎兵趕到壽陽，恨不得一口氣把晉軍吞掉。
他到了壽陽，跟苻融一商量，認為晉軍已經不堪一擊，就派了一個使者到晉軍大營去勸降。
那個派出的使者不是別人，恰恰是前幾年在襄陽堅決抵抗過秦軍、後來被俘虜的朱序。
朱序被俘以後，雖然被苻堅收用，在秦國當個尚書，但是心裏還是向著晉朝。他到晉營見了謝石、謝玄，像見了親人一樣高興，不但沒按照苻堅的囑咐勸降，反而向謝石提供了秦軍的情報。他說：“這次苻堅發動了百萬人馬攻打晉國，如果全部人馬一集中，恐怕晉軍沒法抵擋。現在趁他們人馬還沒到齊的時候，你們趕快發起進攻，打敗他們的前鋒，挫傷他們的士氣，就可以擊潰秦軍了。”
朱序走了以後，謝石再三考慮，認為壽陽的秦軍兵力很強，沒有把握打勝，還是堅守為好。謝安的兒子謝琰勸說謝石聽朱序的話，盡快出兵。
謝石、謝玄經過一番商議，就派北府兵的名將劉牢之率領精兵五千人，先對洛澗的秦軍發起突然襲擊。這支北府兵果然名不虛傳，他們像插了翅的猛虎一樣，強渡洛澗，個個勇猛非凡。守在洛澗的秦軍，不是北府兵的對手，勉強抵擋一陣，敗了下來，秦將梁成也被晉軍殺了。秦兵爭先恐後渡過淮河逃走，大部分掉在水裏淹死了。
洛澗大捷，大大鼓舞了晉軍的士氣。謝石、謝玄一麵命令劉牢之繼續援救硤石，一麵親自指揮大軍，乘勝前進，直到淝水（今淝河，在安徽壽縣南）東岸，把人馬駐紮在八公山邊，和駐紮壽陽的秦軍隔岸對峙。
苻堅派出朱序勸降以後，正在洋洋得意，等待晉軍的投降，突然聽到洛澗失守，像頭上挨了一記悶棍一樣，有點沉不住氣。他要苻融陪著他到壽陽城樓上去看看對岸形勢。
苻堅在城樓上一眼望去，隻見對岸晉軍一座座的營帳排列得整整齊齊，手持刀槍的晉兵來往巡邏，陣容嚴整威武。再往遠處看，對麵八公山上，隱隱約約不知道有多少晉兵。其實，八公山上並沒有晉兵，不過是苻堅心虛眼花，把八公山上的草木都看作是晉兵了（文言是“草木皆兵”）。
苻堅有點害怕了，他轉過頭對苻融說：“這確實是強大的敵人啊！怎麼能說他們弱呢？”
打那以後，苻堅命令秦兵嚴密防守。晉軍沒能渡過淝水，謝石、謝玄十分著急。如果拖延下去，隻怕各路秦軍到齊，對晉軍不利。