在解決了黃百韜兵團之後，為了方便指揮，淮海前線總前委指揮部從臨渙集向前線移動，遷到了宿縣小李莊。小李莊位於徐州至宿縣的鐵路和徐州至阜陽的公路之間，是敵人三路兵馬，即杜聿明集團南下、李延年兵團和劉汝明兵團北上、黃維兵團東進的預定會合地，天天都有幾批國民黨空軍的飛機在頭上盤旋偵察。他們萬萬不會想到，指揮幾十萬大軍的指揮部就在這個小村子裏。
按照淮海前線總前委的命令，包圍黃維兵團的部隊在11月29日向敵人發動了強攻。中野和華野的主力加上部分地方部隊共20多萬人投入了圍殲黃維兵團10多萬人的戰鬥。
但是，如何才能既不拉長時間又能把損失減少到最小來吃掉這個“硬核桃”，並不是一件容易的事。
“硬核桃”一稱不是我們的形容，是黃維自喻。當他的整個兵團集聚在一塊之後，他在如何固守待援這一問題上是這樣考慮的：雙堆集地區是一片平原，除了尖古堆和平古堆這兩個較高的土堆之外，沒有地形的優勢，要想守住，唯一可以依賴的隻有自己較解放軍強得多的火力配備。所以，他決定以雙堆集為核心，利用二十幾個村莊組織環形防禦，在平地上挖掘戰壕，埋設地雷，拉上鐵絲網，修築各種地堡，用各種火力網來控製每一寸土地，特別是發揮機槍和火焰噴射器在平原地形上所具有的火力殺傷的優勢，黃維就把這種陣地防禦體係比喻為一個“硬核桃”。他說：“要讓共軍啃掉牙、脹破肚皮，敗北於陣前。”他還就此一再向蔣介石表示：“劉、鄧一下子吞不了我們！”
黃維雖然口出狂言，但他的話並不是一點道理沒有。這是因為，中原野戰軍的火力的確遠比不上黃維兵團，中原野戰軍過去大多數時候都是打運動戰，要打現在這種平原大壩之上的陣地戰，可真是經驗不足。正是從這種意義上說，中野是在啃黃維兵團這個“硬核桃”，而不是在吃一塊軟豆腐，這種比喻也是未嚐不可。
不打無準備之仗，不打無把握之仗，這是毛澤東軍事思想之中很重要的一環。當圍攻黃維兵團的戰鬥進行了幾天之後，總前委在小李莊召集各縱隊負責人會議，交流和總結了幾天來在進攻中所遇到的各種問題，就如何砸碎這個“硬核桃”，作了認真的研究。擺在大家麵前的現實是，我們的武器的確不如人，全部美式裝備的敵人僅一個十八軍就有各種火炮400多門，而整個中野的火炮也不到100門，何況還缺少彈藥。至於坦克、飛機和火焰噴射器，我們完全沒有。至於兵力，中野在這時除了一縱和四縱各有9個團之外，其餘縱隊都隻有6個團，最少的九縱隻有5個團，平均每個縱隊有1.5～1.6萬人，最少的縱隊還不到1.2萬人。整個中野的總兵力約為12萬，大約和敵人相當。隻是加上華野和地方部隊的力量，我們才能在總兵力上超過敵人。在幾天的進攻中，敵人憑借強大的火力，多次把我軍不顧犧牲而英勇攻入敵人陣地的戰士們打回來，在敵人多點交叉的機槍掃射、坦克碾壓、火焰噴射的阻擊麵前，我們的進展很緩慢，傷亡卻很大。在這種客觀現實麵前，我們要怎麼樣才能對黃維兵團圍得住、殲得了？我們的廣大指戰員是不怕犧牲的，必要的犧牲也是值得的。但是，我們決不能無價值地犧牲，我們必須以盡可能小的代價換得盡可能大的勝利。從劉、陳、鄧到每一個指揮員都很清楚，我們不能以血肉之軀去和敵人的坦克、大炮硬拚。
並不在前線的毛澤東和中央軍委領導對淮海前線的情況十分關心。曾就圍攻的問題專門發電指示。電報說：“黃維被圍，有殲滅希望，極好極慰，但請你們用極大注意力對付黃維的最後掙紮。”電報還特別提醒說：“對於戰鬥力頑強之敵，依靠急襲手段是不能消滅的。必須割裂、偵察、近迫作業，集中兵力、火力和步槍協同諸項手段，才能殲滅。”
在總前委會議上，各縱隊領導結合中央軍委的指示，對眼前的形勢作了認真分析，對如何從過去熟悉的運動戰轉變為大規模的陣地戰問題進行了認真討論。在會議上，還討論了前不久華東野戰軍圍殲黃百韜兵團的經驗教訓。會議決定，立即在這大平原上挖掘坑道，修建工事，要把工事構築成有縱深、有主次的防禦陣地，要有耐心，一步一步推進，一塊一塊陣地爭奪，真正和敵人打陣地戰。
會議之後，20來萬大軍立即展開大規模的土工作業，在原已挖有工事的基礎上，用當地一切可用的材料努力構築工事，迅速建成了縱深達幾千米的以各種壕塹為主的網狀體係。在一望無涯的大平原上，有如奇跡般地出現了千萬條縱橫交錯、密如蛛網的壕塹和掩體。從地麵看，幾乎看不到什麼戰場的樣子，連人影也沒有幾個，包圍黃維兵團的大軍一下子都轉入到了“地下”。可是如果跳下交通壕，就會見到各種忙碌的身影，戰士們在不斷向前邊移動，在向前邊運送各種物資。一到黑夜，這裏就成了我軍的天下，已經集中起來的一個個進攻小分隊就在距敵人前沿陣地不遠處利用夜色的掩護，向敵人發起無數次的猛烈進攻。我軍不多的火炮則從壕溝中一直推到敵人的眼皮底下，采用直接瞄準和平射的辦法，就如打靶一樣，一發炮彈就可以摧毀敵人的一個地堡。這種打法，可以說是彈無虛發，讓每一發炮彈都發揮了最大作用。我軍就這樣采取“蠶食”的戰術，一個點一個點地與敵人爭奪，把敵人的一個一個工事、一個一個村莊拿了過來，把敵人的有生力量一個排、一個連一口一口地吃掉，每天都有進展，每天都有斬獲。敵人的陣地愈來愈小，我軍的包圍圈愈來愈小，淮北大地上的一條條戰壕和交通溝，就好比一條條絞索，愈來愈緊地勒在黃維兵團的脖子上。