東晉這邊布置好了對敵之策，前秦那邊也馬不停蹄地向南進兵。
這年十月，苻堅求勝心切，他等不及各路人馬聚齊，便命令苻融進攻壽陽。
壽陽是軍事重鎮，它的得失對於整個戰局的勝負，具有舉足輕重的作用。奉命增援壽陽的晉將胡彬，在半路上就接到壽陽失守的消息，隻好退守硤石（今安徽壽縣西北）。苻融馬上命令部將梁成率眾五萬進攻洛澗（今安徽淮南市東），切斷了胡彬與謝石大軍的聯係。
苻堅到了壽陽，派尚書朱序到晉軍大營去勸降。朱序本來是東晉的將領，四年前在襄陽和前秦軍隊作戰時兵敗被俘，留在前秦。現在他見晉秦交戰，知道自己為東晉出力贖罪的機會到了。他到晉營後，不但沒有勸降，反而向謝石提出打敗秦軍的建議。他說：“這次苻堅發動了百萬人馬攻打晉國，如果全部人馬都到了，恐怕晉軍無法抵擋。所以，應乘秦軍還沒集結的時候，趕快進攻秦軍前鋒。打敗了它的前鋒，便可挫傷秦軍的士氣，這樣就可以戰勝他們了。”
謝玄聽從了朱序的建議，派戰鬥力較強的北府兵將領劉牢之帶領一支兵馬，在夜晚神不知鬼不覺地來到洛澗，向秦軍陣地發起突然襲擊。正在睡夢中的秦將梁成，聽到喊殺聲，嚇出了一身冷汗，慌慌張張地從床上爬起來，上馬迎戰，結果被劉牢之一刀砍翻，送了性命。
秦軍失去主將，四散奔逃，晉軍乘勝追擊。謝石帶領晉軍主力渡過洛澗，在離壽陽城隻有四裏地的八公山下，紮下營寨，與秦軍主力隔淝水對峙。苻堅在壽陽城裏，接到洛澗秦軍失利的消息，有些沉不住氣了。
過了幾天，謝石派人到壽陽城裏，送給苻融一份戰書，要求定期決戰，條件是秦軍把陣地向後撒出一些，騰出一塊空地作為戰場，讓晉軍渡過淝水決戰。秦諸將都反對晉軍的建議，苻堅和苻融卻同意晉軍的條件，說：“讓我們的土兵稍稍向後退一點，等他們正在渡過的時候，讓我們的騎兵衝上去，一定能把他們消滅。”
謝石、謝玄得到前秦答應後撒的回音後，迅速整頓兵馬，指揮渡河。
晉軍渡過淝水，勇猛地衝向秦軍陣地。朱序見狀，就在秦軍陣後大聲高喊，“秦軍敗了，秦軍敗了！”正在後退的秦軍，聽到喊聲，一時也分辨不清是真是假，逃的逃、躲的躲，整個隊伍潰不成軍。
苻融趕快跑到隊伍後麵，去攔阻隊伍，不料連人帶馬被擠倒在地。還沒來得及從地上爬起來，就被趕上來的晉軍一刀砍死。苻堅見形勢不妙，嚇得丟下士兵，隻顧自己逃命。到洛陽（今河南洛陽）時，苻堅收拾殘兵，隻剩下十幾萬人了。
晉軍乘勝追擊，一口氣追趕了三十多裏才收兵。謝石、謝玄連夜派人去建康報捷。當報捷的軍士趕回建康的時候，謝安正在與客人下棋，他看過告捷的書信，悄悄地把它擱在床上，不露聲色，照常下棋。等到客人問時，才漫不經心說：“孩子們已經打敗賊軍了。”