西晉末年的腐敗政治，引發了社會大動亂，中國曆史進入了分裂割據的南北朝時期。在南方，晉琅邪王司馬睿於公元317年在建康（今江蘇南京）稱帝，建立東晉，占據了漢水、淮河以南大部分地區。在北方，各少數民族政權紛爭迭起。由氐族人建立的前秦國先後滅掉前燕、代、前涼等割據國，統一了黃河流域。以後又於公元373年攻占了東晉的梁（今陝西漢中）、益（今四川成都）二州，將勢力擴展到長江和漢水上遊。前秦皇帝苻堅因此躊躇滿誌，欲圖以“疾風之掃秋葉”之勢，一舉蕩平偏安江南的東晉，統一南北。“投鞭斷流”，“草木皆兵”，“風聲鶴唳”等成語典故都出自淝水之戰。
淝水之戰發生在安徽壽縣，古稱壽州，壽陽。又作肥水，源出肥西、壽縣之間的將軍嶺。同源而異歸：向西北流者，經200裏，出壽縣而入淮河；向東南流者，注入巢湖。三國時，魏將張遼曾敗孫權於淝水。東晉時，謝玄亦敗苻堅於淝水。是有名的古戰場。特別是東晉的淝水之戰，是我國曆史上著名的以弱勝強的戰例。
公元383年8月，苻堅親率步兵60萬、騎兵27萬、羽林郎（禁衛軍）3萬，共90萬大軍從長安南下，同時，苻堅又命梓潼太守裴元略率水師7萬從巴蜀順流東下，向建康進軍。近百萬行軍隊伍“前後千裏，旗鼓相望。東西萬裏，水陸齊進。”苻堅驕狂地宣稱：“以吾之眾旅，投鞭於江，足斷其流。”
東晉王朝在強敵壓境，麵臨生死存亡的危急關頭，以丞相謝安為首的主戰派決意奮起抵禦。經謝安舉薦，晉帝任命謝安之弟謝石為征討大都督，謝安之侄謝玄為先鋒，率領經過7年訓練，有較強戰鬥力的“北府兵”（在北方的流亡移民當中選拔精壯者，加以嚴格訓練培育出的一支軍隊，為東晉時期戰力最強的主力軍）8萬沿淮河西上，迎擊秦軍主力。派胡彬率領水軍5千增援戰略要地壽陽（今安徽壽縣）。又任命桓衝為江州刺史，率10萬晉軍控製長江中遊，阻止秦巴蜀軍順江東下。
10月18日，苻堅之弟苻融率秦前鋒部隊攻占了壽陽（今壽縣），俘虜晉軍守將徐元喜。與此同時，秦軍慕容垂部攻占了鄖城（今湖北鄖縣）。奉命率水軍馳援壽陽的胡彬在半路上得知壽陽已被苻融攻破，便退守硤石（今安徽鳳台西南），等待與謝石、謝玄的大軍會合。苻融又率軍攻打硤石。苻融部將梁成率兵5萬進攻洛澗（在今安徽淮南東），截斷淮河交通，阻斷了胡彬的退路。胡彬困守硤石，糧草用盡，難以支撐，寫信向謝石告急，但送信的晉兵被秦兵捉住，此信落在苻融手裏。苻融立刻向苻堅報告了晉軍兵少，糧草缺乏的情況，建議迅速起兵，以防晉軍逃遁。苻堅得報，把大軍留在項城，親率8千騎兵疾趨壽陽。
苻堅一到壽陽，立即派原東晉襄陽守將朱序到晉軍大營去勸降。朱序到晉營後，不但沒有勸降，反而向謝石提供了秦軍的情況。他說：“秦軍雖有百萬之眾，但還在進軍中，如果兵力集中起來，晉軍將難以抵禦。現在情況不同，應趁秦軍沒能全部抵達的時機，迅速發動進攻，隻要能擊敗其前鋒部隊，挫其銳氣，就能擊破秦百萬大軍。”謝石起初認為秦軍兵強大，打算堅守不戰，待敵疲憊再伺機反攻。聽了朱序的話後，認為很有道理，便改變了作戰方針，決定轉守為攻，主動出擊。