根據華野司令部的命令，華野各部為了完成對敵人的包圍，各部都盡可能向前推進：九縱從敵人南麵繞過了敵人，從大回村以西、永城以北向北方插到薛家湖地區，然後在芒碭山地區與從徐州東南追趕過來已經在敵人北邊的一縱會合，位於敵人的西北邊；八縱到達了永城的苗橋地區，位於敵人的西南邊；二縱和十一縱到了永城以東地區，位於敵人的南邊；三縱和魯中南縱隊到了張集，位於敵人的東南邊；四縱和十縱到了祖老樓地區，位於敵人的東邊；渤海縱隊尾追敵人，到了敵人的東北邊。與此同時，兩廣縱隊等也趕了上來。
12月3日晚上，也就是杜聿明集團轉向濉溪口方向開進之時，華野的各部隊就已經從左右兩翼對敵人形成了大致的包圍之勢，左翼已經到了大回村附近，右翼已經到了薛家湖附近。由於是夜間，兩軍中的一部分已經進入了犬牙交錯的狀態。據杜聿明的回憶：
是晚全線皆有戰鬥，部分解放軍與國民黨軍混淆不清。
如由蕭永公路撤退之第二兵團一個後衛營，遇到解放軍的一個大部隊時，這個營長即冒充解放軍而免於被殲。另有少數解放軍深入國民黨軍內部到處打槍，弄得國民黨軍草木皆兵，敵我不分，各據一村，徹夜混戰。這一軍說“當麵之敵攻擊甚烈”，那一軍說“共軍已竄到我陣地後方，正在驅逐中”。甚至指揮部及第二兵團所駐的孟集內外亦發生混戰，戰鬥一直打到我駐的房屋門口，直到４日拂曉前後始漸形沉寂。檢查結果，隻發現幾具似農民非農民的屍首及幾個被打死的國民黨軍，此外並無虜獲解放軍的任何證據。這一晚混戰究竟是國民黨軍自相混殺，還是真有解放軍打進來，至今回憶起來還是一個謎。
事後才知道，這天晚上，我軍的確沒有攻入孟集，是國民黨軍隊在混亂中自相驚擾。正是在這樣的混戰中，我軍有不少很輕鬆的斬獲。例如邱清泉兵團在徐州撤退前收羅散兵新成立的一個補充旅，就很輕鬆地被我軍全部解決。孫元良兵團派了一個團去接管補充旅防務，因為不知道已經發生的情況，在派人前往聯絡時，竟把駐在村子中的解放軍誤認為補充旅，全團整隊開進了原補充旅所駐的村莊，猝不及防，被村中的解放軍全部消滅。
但是，華東野戰軍的各部隊在這時的任務隻是在按指定位置展開，把敵人包圍在蕭縣與永城之間，所以並無什麼大的戰事發生。在經過了一些不大的戰鬥之後，粟裕對各部隊的位置又做了一定的調整，我軍對杜聿明集團的包圍圈在12月4日基本完成。12月4日這天，華野的九縱、八縱、二縱、十一縱、三縱、十縱以及冀魯豫軍區獨立一旅和三旅共20餘萬人全部到達了王引河一線，在敵人前麵的東西二十多公裏的正麵構築起了袋形防禦陣地。一縱、四縱、十二縱、兩廣縱隊、魯中南縱隊的十幾萬大軍則布置在敵人背後的洪河集一線。
這樣，杜聿明集團的全部軍隊以及附帶從徐州一道逃出的軍政人員、商人、學生等，都被包圍在永城東北的以陳官莊、青龍集、李石林為中心的一個小圈子裏。
當包圍圈基本形成以後，粟裕估計敵人很可能要繼續向南突圍，便針鋒相對地做出了相應的部署。敵人要一麵突圍、三麵掩護，華野就安排一麵阻擊、三麵進攻。也就是說，在南邊堅決阻擊敵人的突圍，在東、西、北三麵對敵人發起進攻，而且要求進攻的部隊要盡可能地打縱深戰，大膽插入敵人內部，把敵人的部署盡可能打亂。為此，粟裕對華野的部隊做了新的調整：
由二兵團（即山東兵團）政委譚震林、副司令員王建安統一指揮葉飛的一縱、陶勇的四縱、聶鳳智的九縱、曾生的兩廣縱隊，以及冀魯豫軍區的獨立一旅、獨立三旅，在北邊向南進攻，力求插入敵人的縱深陣地。
由四兵團（即蘇北兵團）司令員韋國清、副政委吉洛（即姬鵬飛）統一指揮滕海清的二縱、張仁初的八縱、胡炳雲的十一縱，由西南向東北攻擊，並布置縱深的阻擊陣地。
由十縱司令員宋時輪、副政委劉培善統一指揮的八縱和孫繼先的三縱、傅秋濤的魯中南縱隊，由東南向西北攻擊，並布置縱深的阻擊陣地。
這樣，在寒冷的淮北大平原上，形成了兩個大的包圍圈，南邊是被包圍的黃維集團，北邊是被包圍的杜聿明集團。我淮海前線總前委和中野的司令部則設在這兩個包圍圈之間的小李莊，距黃維和杜聿明都隻有幾十公裏地，天天都有若幹架國民黨空軍的飛機從小李莊上空飛過，可是，他們無論如何也想不到，指揮我兩大野戰軍幾十萬大軍圍攻國民黨幾十萬大軍的指揮部，就在這個一點也不起眼的小村子裏。