11月9日華野總部向全部隊發出了《全殲黃百韜兵團的政治動員令》，號召全軍“不怕疲勞，不怕困難，不怕饑餓，不怕傷亡，不怕打亂建製，不為河流所阻，敵人跑到哪裏，堅決追到哪裏，全殲黃兵團！活捉黃百韜！”
黃百韜兵團是在11月7日清晨從新安鎮向西撤退的，我華野大軍是在第二天上午向敵人發起追擊的。為了追回這一天多時間，我各路追擊大軍以能夠達到的最快速度急行軍，一天行軍60公裏到70公裏。不僅部隊在追，緊隨其後的大量支前民工也推著小車、抬著擔架，一刻不停地跟著追。
從新安鎮地區向西行進，最大的麻煩是過運河。黃百韜預先考慮到了這一點，事先就與徐州“剿總”聯係，要求派工兵在運河上架設浮橋。“剿總”答複說將派出一個工兵團，結果是一個工兵的影子也沒見到。原先預料中的浮橋沒有了，除六十三軍之外的四個軍全部都隻能從唯一的一座鐵路橋上通過。加之四十四軍從海州方向西撤時，夾帶了大量的跟隨西撤的家屬、商人、職員、鄉紳、學生等，總數竟有10萬人之多，又是轎子，又是車子，大大影響了過橋速度。11月8日從早晨到中午，黃百韜的六十四軍、兵團直屬部隊與兵團總部、四十四軍陸續通過鐵橋。下午兩點，我華野的先頭部隊在九縱司令員聶鳳智的率領下就已經追到運河邊，各種火力一齊向橋麵打去。敵第二十五軍和一〇〇軍一邊抵抗，一邊過橋，雖然在黃昏時分都過了橋，但是二十五軍被我殲滅了一個團，一〇〇軍四十四師也被我殲滅一部。8日下午，當黃百韜的大部隊渡過運河之後，為了擺脫我軍的追擊，在敵二十五軍一〇八師還未過鐵橋時，黃百韜就悍然下令炸毀了鐵橋。當天晚上，黃百韜兵團到達了距徐州隻有75公裏的碾莊。由於這兩天已經跑得相當疲憊，部隊又相當混亂，黃百韜下令在11月8日晚上部隊休整，整理隊伍。之所以敢於停下來休整，是因為黃百韜認為華野還不能追上他的部隊，認為他的部隊已經接近徐州了。還有一個重要原因，就是黃百韜認為工兵已將運河鐵橋炸毀了，河東的解放軍主力過不來了；他還認為，河西是沒有解放軍主力的，有的隻是一些地方部隊。
可以肯定，黃百韜在估計我軍的行軍速度上犯了一個致命的錯誤，因為他沒想到我軍能以超乎尋常的速度追了上來，沒想到我軍能以他想不到的方式渡過運河，更沒能想到我軍會突然插在他的前麵。我軍為了追趕敵人，有橋過橋、有船乘船，沒橋沒船就涉水而過。九縱的“濰縣團”官兵在渡河時竟站在水中，用自己的身體扛著攻城用的木梯搭成便橋讓戰友們跑了過去。這樣，就在黃百韜在碾莊休整的這天，我山東兵團利用第三綏靖區賈汪起義所造成的有利條件，以超常的速度南下，在11月9日插到了碾莊與徐州之間，七縱到了大許家和黃集，十縱到了東賀村，十三縱到了曹八集。這樣，黃百韜兵團退回徐州的路就被切斷。到了11月10日，我華東野戰軍就展開了對黃百韜兵團的包圍，到11日就從四麵完成了對黃百韜兵團的包圍。黃百韜兵團4個軍大約12萬人就被我軍包圍在以碾莊為中心的大約18平方公裏範圍之內。時間在這個關鍵時刻真是顯得太重要了。戰後，粟裕這樣說：“隻要我們在賈汪多待4小時，我們的機會就丟失了。”
被我軍包圍在碾莊的敵軍是4個軍，即二十五軍、六十四軍、四十四軍和一〇〇軍，不過隻有六十四軍和四十四軍還是完整的。被包圍的範圍是東西6公裏，南北3公裏，中心是碾莊。本來還有一個六十三軍，這個軍是在完成了掩護全兵團撤退的任務之後才出動的，由於沿隴海一線人馬太多，所以沒有沿著隴海路西撤，是從南邊向西撤退的。11月7日上午11點出發，剛走了20公裏就被我蘇北兵團的先頭部隊追上。六十三軍邊打邊撤，11月8日黃昏到達運河邊上的窯灣鎮時即被我軍包圍。窯灣沒船沒橋，由於六十三軍是粵係餘漢謀的舊部，本是廣東部隊，官兵中不少人都會遊泳，於是，會遊泳的就強行遊泳渡河，其餘就在窯灣鎮拚死抵抗。我軍的十一縱最先趕到窯灣，就在敵人渡河時加以痛擊。很快我一縱也飛兵趕到，遂對敵人進行強攻。戰鬥到11日下午，無論是已渡河的還未渡河的，除了軍參謀長宋健人、一八六師師長張澤深等極少數人化裝逃跑之外，全軍被我殲滅。軍長陳章抱著一塊木板泅水渡河，剛一上岸就被我軍的密集掃射所擊斃（粵係軍閥餘漢謀為了給自己的部下貼金，在對外宣傳時說陳章是自殺“成仁”，在南京和廣州開了追悼會，當時連六十三軍的幾名高級將領都稱之為“最為可笑”）。這個軍就成為我軍在整個淮海戰役中最早消滅的一個軍。