根據這次會議精神和我8縱實際情況。張仁初和王一平召開了縱隊黨委會，提出既要經得起勝利的考驗，也要經得住挫折的考驗，保持清醒的頭腦；同時分析了敵人外援無望、內缺糧彈的處境和基層官兵恐懼、厭戰的心理，強調配合強大的軍事打擊開展政治攻勢，瓦解敵人的士氣。要求各師在普遍戰評的基礎上，研究如何發揮我軍夜戰近戰特長，加強土工作業，特別是敵火力下的作業，隱蔽地接近敵人，插入敵人據守的各村之間，割斷敵人的聯係，為聚殲敵人創造條件。
從25日到18日，我8縱除以一部分兵力監視碾莊圩以東大小院上一帶的敵人以外，主力分別由火燒房子西北、大院上西南向碾莊圩等處守敵進逼，緊縮了對碾莊圩的包圍。縱隊組織了炮兵群，壓製、摧毀敵人的地堡工事。
19日晚，我軍對碾莊圩守敵黃百韜兵團部、25軍軍部及其直屬部隊發起總攻。我8縱和9縱從東南和正南方向擔任主攻。
這個由於淮海決戰而聞名中外的碾莊圩，是座落在淮海平原上不足200戶人家的村莊。在我8縱主攻方向上，第一道圍牆內有敵15軍40師1個營的兵力在固守。
臨戰前，縱隊發出動員令，要求主攻部隊的幹部和全體黨員在緊要關頭“挺身而出，成為勝利的旗幟！”“要勇猛殺敵當英雄，執行政策立雙功”。要“徹底消滅25軍，打掉皖南事變劊子手顧祝同的打手，為在皖南事變中犧牲的同誌報仇。”
8縱圍攻碾莊圩的先鋒團，由23師67團擔任。和先鋒團並肩作戰的是9縱的“濟南第1團”。這兩個主攻團為了完成共同的任務，團結協調，親密無間。兩個指揮所架通電話，相互通報敵情和作戰部署。總攻開始，電話線被敵炮火打斷，就互派參謀人員加強聯係。
曾被譽為“戰爭之神”的大炮，在圍攻碾莊圩中大顯神威，在步兵衝擊前，我8縱集中57門大炮，分4個炮群，一聲令下，巨響震天，無數條火龍，劃破夜空，飛向碾莊圩，僅3刻鍾就發射4600發炮彈，摧毀敵大批防禦工事和殺傷敵大量有生力量，為步兵衝擊開辟了通路。
這時，先鋒團的尖——9連，正隱蔽在一條蛇形的交通壕裏。交通壕是他們利用夜間在敵火力下築成的，離敵人前沿陣地隻有60米。19日22時，當炮火剛剛向前延伸，9連便在副營長李浩的帶領下，分3路向碾莊圩東南角撲去。淮海平原的初冬，已是天寒地凍，北風凜冽，而夜間壕水更是冰冷刺骨。為了爭取時間，突擊隊的幹部戰士跳下水深齊腰的壕溝涉水前進，有的同誌幹脆脫掉棉衣，光背赤足涉水而過。壕壁、圍牆陡直難攀，戰士們三番五次爬上去摔下來。
被我炮火震昏了的敵人，如惡夢剛醒，機槍、手榴彈一齊打來。戰士們一麵還擊，壓製敵人火力，一麵“疊羅漢”向上爬，相互鼓勵：“衝過水壕，翻過圍牆就是勝利！”幹部、黨員哪裏任務艱巨就到哪裏，哪裏有困難就出現在哪裏。共產黨員、1排長孫向銀頭部負傷，鮮血直流，仍指揮全排涉過水壕爬上圍牆。僅用半小時，碾莊圩第一道圍牆的突破口就被9連撕開了，首先升起紅色信號彈。67團、68團、64團等後續部隊隨後跟進。
經過一番搏鬥，我軍將守敵1個營消滅在地堡密布、壕溝縱橫的陣地上。突擊連和後續部隊占領幾所院落站穩腳跟後，立即支援“濟南第1團”的突擊方向，向那裏的守敵壓過去。這時，兩個主攻的拳頭會合了，共同打退了敵人“青年突擊隊”的瘋狂反撲，向前進攻。
為了抵近射擊，打死角，由8縱參謀長陳宏67團指戰員研究出的炮打炸藥包的技術，給敵人很大殺傷。俘虜兵講：這種“炮彈”，會飛到牆上爆炸，沒法躲。後來，華野首長稱讚炮打炸藥包是一大創造。
我8縱部隊和9縱“濟南第1團”在第二道圍牆的南門外會合後，一齊向裏發展。部隊在接近黃百韜兵團部的時候，同垂死掙紮的敵人展開逐屋、逐點的爭奪，一直激戰到20日清晨5時50分，攻打敵人兵團部和25軍軍部的各部隊會師了。當特務團團長董玉湘進到黃百韜住址時，發現黃睡的毛毯上遺棄下1支手槍和1瓶安眠藥。黃百韜狼狽地帶著殘部逃向64軍據守的大院上村。
接著，8縱又奉命向盤踞小院上、小費莊等5個村莊的敵64軍、25軍殘部發起攻擊，戰鬥到22日晚上，守敵大部被殲。黃百韜從大院上向西北逃跑時斃命，劉鎮湘被生俘。經過10天鏖戰，我8縱共斃傷、俘敵1.25萬餘人。部隊經受了拚強敵，打硬仗的嚴峻考驗。