英勇的解放軍為了消滅國民黨南線主力軍，造成進軍江南的條件，繼遼沈戰役之後，立即進行淮海戰役。戰役前，集結在淮海地區的國民黨軍隊有徐州“剿總”司令官劉峙、副司令杜聿明指揮下的4個兵團和3個綏靖區部隊，以後又由華中調來增援的1個兵團，共80萬人。解放軍華東野戰軍16個縱隊、中原野戰軍7個縱隊及中原、華東、華北一部分地方武裝60餘萬人。中共中央決定由鄧小平、劉伯承、陳毅、粟裕、譚震林組成總前委，鄧小平為書記，統籌和領導淮海戰役。淮海戰役是在以徐州為中心，東起海州，西以商丘，北起臨城（今薛城），南達淮河的廣大地區展開的。遵照中共中央和毛澤東的指示，在廣大人民的支援下，於1948年1月6日，發起一次具有決定性的決戰。
整個戰役分3個階段進行。第一階段，從11月6日至22日，人民解放軍在徐州以東新安鎮、碾莊地區圍殲黃伯韜兵團。戰役開始，華東野戰軍在中原野戰軍配合下，兵分3路南下，對黃伯韜兵團采取戰略包抄。8日，國民黨第三綏靖區副司令何基灃、張克俠率領2個軍部、3個半師共2~3萬人，在台兒莊、棗莊地區起義；徐州北大門洞開，解放軍乘機插入，切斷黃伯韜兵團的退路，黃伯韜兵團1個師在曹八集，第六十三軍在窯灣被殲；兵團司令部和4個軍被包圍在縱橫不到20華裏的碾莊地區。12日，解放軍發起總攻，22日，全殲黃伯韜兵團10萬人，黃伯韜本人自殺斃命。第一階段共殲敵17~8萬人，並切斷敵人從海上的逃路，形成對徐州之包圍，兵臨江淮之勢。
淮海戰役第二階段，從11月23日至12月15日，主要目標是殲滅比較突出的孤立的黃維兵團。中原野戰軍主力在華東野戰軍配合下，於11月24日，將黃維兵團包圍在宿縣以南的雙堆集地區。杜聿明率邱清泉、李彌、孫元良等棄守徐州援黃維，12月4日，被包圍在徐州西南陳官莊。12月6日至15日，中原野戰軍及華東野戰軍一部發動對黃維兵團的總攻擊，全殲該兵團11~5萬人，並生俘黃維。杜聿明部則由此陷入了徹底孤立。第三階段，從1月6日，人民解放軍向青龍集、陳官莊被圍的國民黨軍發起總攻，至10日上午10時，全殲邱清泉、李彌兩兵團25萬人，生俘杜聿明，擊斃邱清泉，李彌隻身逃走。
淮海戰役曆時65天，共殲敵65.5萬人，基本解放了長江以北的華東、中原地區，為渡江作戰，直搗國民黨的統治中心南京，解放大上海創造了有利條件。