當時粟裕雖未將這一作戰腹案上報下達，但在作戰部署上卻是有準備的，即力求能適用於打整編第5軍和打開封兩個作戰方案，而且側重於後一個方案。
5月24日，我軍第3和第8縱隊按野戰軍作戰計劃向淮陽方向前進，敵邱兵團果然被我軍吸引南下。30日、31日，黃河以北我軍各縱隊南渡黃河。我軍的這一突然行動使敵人大為震驚。敵急令邱兵團主力和整編第75師北返迎擊我渡河部隊。同時，又向魯西南增調整編第83師、第25師、第72師和第63師1個旅，企圖與我軍渡河部隊決戰。這樣，敵集中在魯西南戰場的兵力將達到9至11個整編師，且隊形密集，不易分割，我軍難以達到各個殲滅的目的。這時，我軍第3和第8縱隊已到達通許、睢縣、杞縣之間．距開封隻有一日行程，如就勢轉用於突然攻取開封，可打敵措手不及。戰場情況的變化表明，打整編第5軍的條件尚未具備，而實現先攻開封、後殲援敵的條件卻已成熟。於是，粟裕當機立斷，改變在魯西南作戰的計劃，並於6日15日定下了轉向豫東作戰的決心。即首先以主力一部從敵側後開刀，奪取敵守備兵力比較薄弱而又處於敵人防禦要害部位的開封，待圍殲開封守敵後，再集中兵力於運動中尋殲來援之敵的一路。
由於粟裕對這一作戰方案先有準備，所以在定下決心的當天就上報了中央軍委並報中原軍區和中原野戰軍，同時給部隊下達了作戰命令，明確了戰役第一階段各部隊的任務。以第3和第8縱隊組成攻城集團，由陳土榘、唐亮指揮，先采取奔襲手段奪占城關，爾後依托城關迅速攻城。為確保攻城作戰的勝利，另用近三倍於攻城部隊的兵力，由野戰軍直接指揮，擔任阻援和牽製敵人的任務，其中以中野第9縱隊插入鄭州、開封之間，阻擊鄭州可能來援之敵；以中野第11縱隊並指揮冀魯豫軍區獨立第1旅位於巨野地區，由北向南從側後牽製邱兵團；以第1、第4和第6縱隊迅速楔入定陶、曹縣、民權、考城地區，采用運動防禦，堅決阻擊邱兵團西援開封；以冀魯豫軍區和豫皖蘇軍區一部兵力相機攻占東明、蘭封（今蘭考縣），並破襲隴海路蘭封至野雞崗段鐵路。17日晨，中央軍委、毛澤東複電完全同意上述部署，並指出：“這是目前情況下的正確方針。”同日，劉伯承、鄧小平、陳毅也來電指出：豫東戰役第一步應明確以攻開封為主，第二步打哪兒視情而定。
為了在戰略上配合這次作戰，粟裕令華野第2兵團繼續在津浦路徐、濟段擴大攻勢，包圍兗州，調動敵整編第25師或整編第83師北援；令華野第4兵團在隴海路新安鎮（今新沂縣）至海州段發動攻勢，以牽製敵人。
我軍攻打開封這一著棋，完全出敵意料之外。當我軍的兵力部署已經就緒，戰役即將發起時，敵人還蒙在鼓裏。國民黨南京政府國防部和徐州“剿總”，雖曾覺察到我軍第3和第8縱隊有圍攻開封的征候，但見我軍兩大集團南北對進，即認定我軍企圖夾擊邱兵團，因而十萬火急地向魯西南調集兵力，要與我軍進行決戰。尤其可笑的是敵華中“剿總”，還堅持認為我軍第3和第8縱隊尚在方城以東地區。
然而，我軍卻在敵人重兵集團緊緊跟蹤和嚴密監視的情況下，創造了殲敵的條件，捕捉到有利的戰機，乘敵把注意力集中在魯西南之際，突然對開封守敵發動了攻擊。
八、陳士榘：我們一定要拿這個第一
再說陳士榘、唐亮率領由第3、第8縱隊組成的西線兵團，於6月15日行軍經過黃泛區，進到了圉鎮地區，中午休息時間，接到中央軍委和粟裕要其立即攻打開封的命令。陳士榘、唐亮立即下令部隊停止前進，召集各縱司令員和政委研究作戰部署和打法，並草擬安民布告，宣布城市政策、入城紀律和注意事項。
部署完畢，陳士榘滿懷戰鬥豪情，對大家說：“打開封，是關內我軍攻擊的第一個省會城市，我們一定要拿這個第一！”
要攻打開封，部隊就需要轉頭向西北方向前進，各方麵的準備工作都在緊張進行。陳、唐將作戰計劃和部署情況分別報告了黨中央、中央軍委和華野指揮部，並將安民布告和有關城市政策的主要內容報請中央審批。黨中央對開封戰役非常重視，毛澤東親自起草了安民布告和對開封守敵的喊話材料。
開封，往南是隴海鐵路，靠北是滾滾黃河，西麵毗鄰鄭州，東邊是一望無際的大平原，是我國的六大古都之一。城內保存著很多名勝古跡。這座城市既是南北爭奪的中原重鎮，又具有中原政治經濟中心的重要地位。
開封城內守敵為66師師部率13旅全部和河南省保安第1、2旅及炮兵部隊、後勤機關等約4萬人，由第4綏靖區副司令劉汝明指揮。其兵力部署是，13旅及355團（屬68師119旅）防守城東麵的曹門和城東南麵的宋門，以及龍亭核心陣地；保1、2旅守城南、城西兩麵；重炮皆在龍亭附近，高射炮在西南角。