國民黨軍隊的第八兵團也是原來就有的，但在遼沈戰役中我軍攻克沈陽時被我東北野戰軍全殲，兵團司令兼五十三軍軍長周福成被俘，五十三軍（當時八兵團之下完整的軍就隻有這一個軍）副軍長趙國屏陣前起義，從那時起八兵團的序列也就不再存在。現在，蔣介石讓劉汝明將第四綏靖區改編為第八兵團，實際上隻是頂了八兵團原來的番號，其下仍然是第四綏靖區原來的兩個軍。六十八軍是劉汝明的老部隊，劉汝明已經帶了十多年，現在仍然由他的胞弟劉汝珍任軍長。五十五軍也是第二集團軍中西北軍係統的老部隊，早就在劉汝明的指揮之下。當年曾經叱吒風雲的西北軍，在經過若幹起落分化之後，目前還能完整保留下來的隊伍，也就隻剩下劉汝明這個第八兵團。不過這支隊伍中包括了當年西北軍中的劉汝明、石友三、韓複榘三大派係，內部並不團結。另外，由於軍統分子李誠一的牽線，加上劉汝明在陸軍大學將官班學習時與蔣介石的親信俞濟時同班，二人關係不錯，所以劉汝明在抗日戰爭結束後與蔣介石的關係逐漸親密，這支西北軍的部隊已經不再是過去主張反蔣的西北軍了。
蔣介石所以要組建六兵團和八兵團，目的十分明顯，就是要用李延年和劉汝明這兩個頗能打仗的戰將在蚌埠地區坐鎮，北可援徐州，南可守淮河。雖然徐州“剿總”的總司令劉峙也在11月29日撤到了蚌埠，但是真要到第一線帶兵作戰，劉峙是不行的，蔣介石還是得依賴李延年和劉汝明。
淮海戰役初期，當黃百韜兵團被圍時，我中原野戰軍以突然襲擊的方式，由陳錫聯指揮四縱在11月15日一舉攻占了宿縣，切斷了徐州和蚌埠之間的津浦線。李、劉兩兵團也就在這天奉命北上，意欲打通津浦線，從南線支援黃百韜。但是李、劉兩兵團無法突破我華野的阻擊，隻好退了回去。當黃百韜兵團被全殲之後，蔣介石命令杜聿明盡快打通徐蚌線，從南北兩方麵向宿縣進攻。顧祝同還親自到蚌埠督戰，於是李、劉兩兵團第二次向北進攻，部隊於黃百韜被殲之後的第二天，即11月23日開始行動，企圖收複固鎮、任橋集和宿縣。在進至固鎮以北的任橋集、花莊集地區受到我華東野戰軍的強力阻擊，無法北上。當時，毛澤東和中央軍委曾打算由粟裕調集華野部隊在徐州東部地區將李、劉兩兵團誘而殲之。粟裕調了華野的二縱、六縱、十縱、十一縱、十三縱和江淮軍區的獨立旅，一齊向李、劉兵團圍了過來。李、劉二人看到了自己的處境不利，便迅速退了回去，還將澮河上的鐵橋炸毀，故而暫時保全了自己部隊的實力。