解放軍在陝北、山東兩戰場積極挫敗蔣介石的重點進攻、斷蔣兩拳的同時，我軍依據豫北、晉南、晉察冀、東北等戰場各區的具體情況，相繼舉行戰略性反攻，大量殲滅了敵人，逐步收複了失地，從而有力地配合陝北、山東我軍徹底粉碎了敵人的重點進攻。
劉伯承、鄧小平指揮的晉冀魯豫軍區部隊，經過8個月的英勇奮戰，至1947年2月底共殲滅蔣軍25個旅，連同地方團隊共23萬餘人，不僅粉碎了蔣軍控製魯西南和打通平漢路、同蒲路的計劃，反而粉碎了蔣軍對整個晉冀豫解放區的進攻。
3月，蔣介石從晉冀魯豫戰場抽調17個旅去參加對山東和陝北的重點進攻，在該區僅剩下31個旅，連同地方團隊共有30餘萬人。在這些部隊中，大部遭我軍殲滅過或遭過我軍殲滅性打擊，戰鬥力較弱，兵源補充、物資供應特別是糧食供應困難，官兵生活水平受通貨膨脹影響而下降，士氣低落。在晉冀魯豫戰場，蔣軍由於兵力不足被迫轉入守勢，新的作戰方針是依托所謂“黃河防線”、交通要道和城鎮據點組織防禦。
由於連續作戰，劉、鄧部隊已相當疲勞，彈藥供給困難，俘虜占連隊人數的比重很大，且有些沒有經過很好改造，需要休整和補充。為恢複元氣，以利再戰，二三月間，晉冀魯豫軍區野戰軍和地方部隊一部，用1個月左右時間進行了休整補充。經過休整後，部隊兵員更加充實，組織更加健全，體力得以恢複，士氣高漲，戰鬥力有了新的提高。
豫北原係蔣軍打通平漢路的前進基地，在蔣介石發動重點進攻後，則成為其聯係陝北、山東戰場的樞紐地帶，因而部署了較多的防禦兵力，並修築了大量的堅固工事。敵人將防禦重點放在平漢路和道清路交叉點的新鄉及其以北地區。同時，蔣介石為保障他的重點進攻，對晉冀魯豫解放區實行了蓄謀已久的“黃河戰略”，在花園口堵口使黃河回歸故道，構成從晉南風陵渡至山東濟南1000餘公裏的黃河防線，並得意地聲稱黃河水能頂替40萬大軍，妄圖阻止劉、鄧南渡支援陝北和山東作戰。
部隊休整基本完成，為減輕陝北、山東我軍壓力，就在胡宗南部侵占延安的當日，即3月19日，劉、鄧下達了舉行豫北攻勢的命令，重點打擊王仲廉部，打亂敵人聯係陝北和山東兩戰場的樞紐地帶的部署，吸引蔣軍增援豫北，策應陝北、山東解放軍作戰。
針對蔣軍在新鄉以北防禦工事堅固、回避野戰、懼怕黃河南北交通被切斷的特點，劉、鄧決定，先集中優勢兵力進攻新鄉、黃河鐵橋之間地帶，爾後視情況向敵軍縱深地帶發動，力求在野戰中殲滅王仲廉部，並相機奪取敵軍守備薄弱的城鎮、據點。
4月1日夜，劉、鄧主力圍攻整32師。至4月2日夜，攻占了汲縣城外圍多處據點，並攻占了東關。在關鍵時刻，劉榮宗叛變，原計劃受挫，僅王啟明率少數人員起義進入解放區，整32師退至汲縣城內。此時，王仲廉已將黃河南岸的整66師3個旅、整9師的第2旅和汲縣地區的整41師1個旅調至新鄉附近，焦作地區敵整3師2個旅已向新鄉地區集結。這樣，敵人在新鄉地區就有5個整編師10個旅的兵力（含在新鄉的第2快速縱隊），並有向汲縣前進的跡象。因此，劉、鄧決心結束汲縣作戰，另尋戰機。
在這一階段作戰中，劉、鄧共殲滅蔣軍5000餘人，解放了黃河以北平漢路以東，東西100餘公裏、南北70餘公裏的地區，摧毀並控製了平漢路、道清路50餘公裏，打亂了蔣軍的部署，迫使蔣介石將原擬山東戰場的整66師和整9師轉調豫北戰場。