第四野戰軍司令部判斷白崇禧是想在衡寶線上“與我決戰”。林彪獲悉白崇禧的意圖後，大喜過望。鑒於“目前我第一線兵力不夠優勢”，為了誘敵深入，於4日深夜和5日上午兩次電令中路軍“各部即在原地停止待命，嚴整戰備等候我兵力之集中”；同時命令正在湘西芷江地區擴張戰果的四野西路軍，轉向寶慶、祁陽地區迂回，第4兵團第18軍沿粵漢路向北攻擊。為了貫徹第四野司令部的一意圖，蕭勁光兵團也於5日上午兩次電令各軍，充分做好大會戰的各項準備工作，同時要準備好兩手，既要防止“敵人可能集中力量向我作局部進攻”，作好應付進攻的方案；同時又要製定好敵人撤退時追擊的部署，嚴密監視敵人，抓住敵人，使之無法逃脫，即使逃跑也能即刻猛追。
10月5日，林彪、鄧子恢聯名致電毛澤東，告以決定以5個軍靠攏並向廣西進軍，既可與敵決戰，又可在敵退卻時向前推進。
10月7日，毛澤東以中央軍委名義複電林彪、鄧子恢、譚政、蕭克、趙爾陸等，表示同意以5個軍靠攏作戰的部署，同時指示他們：“白崇禧指揮機動，其軍隊很有戰鬥力，我各級幹部切不可輕敵，作戰方法以各個殲滅為適宜。”
10月5日晚，程子華指揮的第12兵團主力停止於衡寶線以北，隻有第45軍的第135師在急行軍中未接到停止前進的命令，他們連續行軍24小時，前進160華裏，越過衡寶公路，猛插至寶慶東南的靈官殿地區，楔入白崇禧集團的縱深，像一把尖刀直插敵人心髒，威脅著敵人的整個部署。白崇禧大為恐慌，連忙調集了5個師，分別向第135師各團陣地進行猛烈攻擊。第135師在師長丁盛、政治委員韋祖珍的指揮下，迅速搶占山頭、隘口，采用集中兵力、重點突破戰術，粉碎了白崇禧部5個師強大兵力的輪番圍攻，為在衡寶地區圍殲白崇禧精銳部隊贏得了寶貴時間。
得悉第135師已經插入敵後，四野司令員林彪當機立斷，決定抓住這一有利戰機，在祁陽以北殲滅白崇禧集團的主力。10月6日，林彪電令第135師以一部遲滯水東江以東的敵軍，該師主力向湘桂鐵路全速前進，炸毀鐵路和橋梁，不惜任何代價切斷白崇禧集團主力向西逃入廣西的退路；第46軍第133、第134師向水東江、演陂橋一線的白部第7軍攻擊；第41軍第122、第123師向白部第71軍攻擊；中路軍其他各師向衡寶公路西南挺進；西路軍第38、第39軍經洪江、洞口向祁陽挺進，準備參加衡寶會戰。
白崇禧見反擊沒有奏效，現在又被解放軍插進來這樣一把尖刀，此時，陳賡指揮的東路軍和程子華指揮的西路軍已分別逼近廣東韶關和廣西靖縣，威脅廣州和桂林，對白崇禧部形成大合圍圈。白見形勢不利，便慌忙改變在衡寶地區與解放軍決戰的計劃，決定放棄衡陽，將“華中軍政長官公署”先行撤退至桂林。10月7日淩晨下令所部全線向新寧、零陵、新田、嘉禾一線撤退，命令其主力第7軍率領第171、第172師和第48軍的第176、第138師，向武岡方向前進，以掩護其正麵部隊撤退時左側的安全。命令下達後，白崇禧於7日乘飛機離開衡陽前往桂林。當天下午，滿載官兵和物資的最後一列火車從衡陽開出，因害怕被解放軍追兵趕上，中途將後尾幾節運載物資的車廂甩掉，加速度向桂林老巢奔去。
白崇禧留下擔任掩護任務的第7軍和第48軍都是桂係的主力。尤其第7軍，是桂係起家的老本錢，不僅武器裝備精良，戰鬥力也很強，是國民黨的七大王牌軍之一。該軍官兵是清一色的廣西人，戰鬥作風頑強，戰術手段狡詐多變，一向受白崇禧的重視。在國民黨發動反共內戰以來的3年多時間裏，第7軍除了在河南信陽以南的花園一戰中，被解放軍殲滅了1個團以外，從來沒有受到解放軍的重大打擊。因此，該軍一向很驕橫，吹噓自己是“鋼七軍”，到達衡寶線後，到處張貼“鋼軍硬，八路不敢和我碰一碰”之類牛皮十足的標語，其張狂可見一斑。白崇禧把該軍看作是一張最得力的“王牌”，在這次戰役中，開始把它放在衡陽方麵作為總預備隊，由他親自掌握和指揮。接著又把它調到衡寶線上，擔任主攻任務。在白崇禧看來，好鋼要用在刀刃上。現在正麵臨生死存亡的關鍵時刻，於是又命令第7軍以兩個主力師，同時統率另一支桂係主力第48軍的兩個師，來掩護其他部隊全線撤退。從白崇禧的這個部署可以看出，他是要不惜血本來換取所部主力部隊脫離解放軍的包圍圈。白還特別交代說：“這個任務很艱巨，撤退時，不論任何犧牲，都不要停留，縱然後尾部隊有的撤不下來，也就算了。”
10月8日，林彪、鄧子恢電令擔任追擊和圍殲任務的四野第12、第13兵團及第45軍：“為穩當起見，各部必須以三至四倍兵力的對比，去包圍和殲滅敵人軍。如兵力太少，則甚難取勝。各部對所迂回包圍之敵，能單獨殲滅則殲滅之，如不能單獨殲滅，則應等待友軍到達後殲滅之。”林彪、鄧子恢同時命令由第45軍軍長陳伯鈞、政治委員邱會作統一指揮黃土鋪地區的第158、第134、第146師的戰鬥。
這是四野自平津地區下江南以來所進行的第一場主力對主力、精銳對精銳的硬戰。
10月9日下午，白部第7軍軍部及警衛營、工兵營、炮兵營在途經黃土鋪向南撤退時，被四野第135師第405團發現，該團一麵向上級報告情況，一麵以3個營的兵力，分路並肩突擊，將第7軍軍部分割成數段，經3小時激戰，將其1200餘人全殲，打亂了第7軍的指揮係統，為殲滅白部4個師創造了有利條件。
與此同時，第135師第404團控製了鹿門前附近的高地，攔腰截住南逃的白部第172師，當即對其實施攻擊。黃昏前，第41軍一部追至該地區，主動配合第404團作戰。自左翼迂回的第40軍在白地市及其東北地區截住向東南方向逃竄的白部第7軍第171師和第48軍第138、第176師，完全封鎖了敵人東逃的退路。自右翼迂回的第41軍主力也適時進至文明鋪及其西北地區，切斷其西逃的退路。正麵攻擊的第45軍主力與尾追的第146師，逼近銅鑼坪、石株橋一線。