淝水之戰的勝利，鞏固了東晉王朝的統治，使北方少數民族貴族無力南下侵擾，有利於江南地區社會經濟的恢複和發展。對於前秦來說，這場戰爭促使北方地區相對統一局麵再次瓦解。慕容垂、姚萇等氏族貴族再次強大起來，利用這個有利時機肢解了前秦的統治，兩年後前秦主苻堅被姚萇俘殺，前秦也就馬上滅亡了。
最重要的是淝水之戰使南北朝的長期分裂的局麵得以繼續延續，直到隋文帝楊堅於589年統一中國。而此時離淝水之戰已經206年了。淮南以及湖北的襄陽一帶，在長達兩個世紀裏經常成為南北之間征戰的地區。在這一地區，北方的騎兵部隊無法發揮出自身的優勢。而南方最擅長的水軍部隊，不僅依靠船隻可以快速而安全的輸送，爭取到戰爭的主動權，而且避免了士兵的疲勞，同時極大地保障了後勤的安全運輸。但這種優勢，在更北一些地區卻受到了極大的限製。在淝水之戰中，地形始終成為雙方一個必須重視的因素，是戰爭成敗的一個重要原因。《晉書》記載，北方的苻堅擁有27萬騎兵部隊，但卻因為江水阻隔，難以發揮出優勢。但晉國部隊雖然擊潰了秦國部隊，但是也不能將領土往北伸展，仍然繼續偏安江南。
所以淝水之戰一個直接的後果是將南北分裂的局麵確立下來，但是這個卻不是分裂的主要原因。曆史證明大一統王朝的到來需要一個人口相對固定，民族界線消融，世族門閥弱小的環境。
395年發生的參合陂之戰是北中國的分裂走向統一的開始，也是中國開始結束分裂的一戰。
參合陂之戰是指在後燕建興十年（395年）五月至十一月，後燕對北魏發動進攻，但是北魏卻在參合陂（今內蒙古涼城東北）將後燕擊敗。
鮮卑慕容部與北魏拓跋部一直都有著姻親關係，因此後燕慕容垂起初對拓跋珪征服獨孤部、賀蘭部非常支持，希望他能統一內部，重建魏，這樣拓跋部就能成為控製塞北諸部的附屬之國。隨著北魏勢力的不斷強大，便開始要求獨立，多次侵擾對後燕臣服的塞外諸部族，雙方關係漸漸惡化。後燕試圖用武力將北魏征服，於是在建興十年五月，燕王派遣太子慕容寶、遼西王慕容農及趙王慕容麟等率領部隊8萬，征討拓跋魏，還命令範陽王慕容德、陳留王慕容紹率領1.8萬步騎兵在後增援。
北魏長史張袞聽聞燕軍要進攻北魏，便給魏王拓跋珪提建議，他認為曾打過多次勝仗的燕王必定很自負，這次進攻北魏帶有輕魏之心，應該采用示弱驕敵而後攻克的方法。為了躲避後燕軍隊的鋒芒，拓跋珪聽從了他的計策，率領20萬大軍，攜帶著部落的羊群和財物一起西渡黃河遷移千餘裏。
七月，後燕部隊到達了北魏的五原（今呼和浩特西北），迫使魏別部3萬餘家投降，將搶奪的糧食百餘萬斛，都堆放在黑城（今呼和浩特西北）。燕軍前進到黃河邊，為了能南渡黃河與魏軍主力決戰而趕造船隻。魏王立即派右司馬許謙趕往後秦求救。
八月，北魏在黃河以南聚集軍隊；九月，拓跋珪的軍隊在河南岸綿延千餘裏。後燕太子慕容寶在河對岸列陣打算過河攻打魏軍，可天不隨人願，突來一陣暴風將數十艘船漂到了南岸。北魏軍隊俘虜了燕300多人，卻賜給他們衣服讓他們返回燕軍，以此來分化瓦解燕士兵。同時，魏軍抓到了負責往來於五原至燕都中山（今河北定州市）之間的燕國信使，得到了燕王慕容垂生病的消息，於是逼迫被俘的燕使對北岸的燕軍說慕容垂已死，慕容寶等驚恐不已，軍心大亂，失去了渡河與魏軍作戰的鬥誌。