向小南門方向突擊的8縱隊接受任務後，立即不惜一切代價，涉水過河，迅速與小南門被圍的8縱戰友彙合。這樣，開封城內從小南門到宋門的東南角已被我軍控製，形勢對我軍向縱深發展十分有利。8縱乘3縱突破宋門之際，迅速掃清小南門外側敵地堡群，再度控製突破口，主力部隊隨即打入城內與城門樓堅守部隊會合，隨後又相繼突破大南門和西門。這樣3縱、8縱主力部隊全部突進城內。兩個縱隊的指揮部也進城親臨指揮，各部隊多路向敵人縱深穿插，進行激烈巷戰。20日晨，兵團前線指揮部搬進城內。
率部反撲的保安第7旅旅長見勢不妙，逃之夭夭。敵66師把所有部隊撤至龍亭、傳染病院、天主教堂和城西北角，保安隊撤至省政府，收縮防線，固守待援。
正當開封之敵被我軍圍殲之際，敵18軍星夜兼程北援。6月16日，該敵已進至上蔡城及東洪橋西南地區。我華野第10縱隊立即北上，會同中野的1、3縱隊向上蔡地區開進，阻擊敵第18軍，他們一晝夜急行軍90公裏，17日拂曉至上蔡城近郊，立即與敵展開激烈戰鬥，殺傷敵人5000多名，迫使敵人不能前進一步，保證了奪取開封的勝利。
敵軍原來估計我軍即使攻打開封，也是由北麵進攻，故在城北配置了較多炮火，但我軍後來由南麵發起攻擊，與敵估計相反。這樣敵炮火隻好隔著龍亭向南發炮，威力大減。在開封守敵節節敗退、處境危殆的情況下，蔣介石隻好借助飛機轟炸來威脅我軍，僅6月20日一天，就投彈20噸左右，開封女師有400人慘遭敵機火力殺害。《合眾社》報道說：“蔣機轟炸開封的結果，已使和平居民的死傷達六七萬之眾。”為了保護居民安全，我軍一突進城內立即命令部隊打開城門，組織和協助群眾向城外安全地帶疏散。
省政府被我軍攻占後，河南省主席劉茂恩裝成一個受傷的老“教授”，也混在疏散群眾之中溜出了開封。
開封戰役已近尾聲，隻剩下教養院和龍亭等地尚未解決。教養院是龍亭東麵的重要陣地。21日拂曉，3縱8師一部突入了教養院的核心工事，但連遭敵反衝鋒，陷入險境，突破口極有可能被敵封閉。這時奉命執行穿插任務的“洛陽營”，主動以2個連的兵力撲向教養院，3分鍾就全部衝進教養院，與反撲之敵展開了白刃格鬥。在這關鍵時刻，這個營的3連也中進突破口，在炮火支援下，反撲之敵被打退了，戰士們乘勝攻占了教養院的製高點大洋樓。敵人為了堵住這個致命的缺口，又多路反撲過來，9架敵機也輪番轟炸。但是，凶殘的敵人最後被我軍的鋼鐵戰土製服了。龍亭，是敵66師師部和13旅旅部所在地，三麵環水，攻擊比較困難。
這時，敵人援兵的炮火響得更緊了，邱清泉和區壽年兵團不需幾個小時就能趕到開封。鑒於這一情況，我軍重新研究了作戰方案，決定用繳獲的敵人大量炮彈予敵以殲滅性轟擊，一口氣吃掉殘敵。
6月21日下午6時30分，我軍集中600多門大小火炮，向龍亭陣地猛烈轟擊或抵近直接瞄準射擊約半小時，敵人的野戰工事和絕大部分鋼筋水泥工事被摧毀。7點10分左右，我軍在龍亭勝利會師，開封戰役勝利結束了。
此次戰役，我軍消滅敵軍3．9萬餘人，活捉了敵66師少將參謀長遊淩雲、13旅少將旅長張潔，惡貫滿盈的66師中將師長李仲辛被我追擊部隊擊斃在城牆下。我軍繳獲了6000多支庫存步槍，3000多桶汽油，32門高射炮，以及其它大批軍用物資。
十、“這樣有道義的軍隊，我們打心眼裏擁護。”
開封，是我軍在關內奪取的第一個省會，開封解放，為今後繼續解放大城市取得了經驗。黨中央對我軍在開封的城市政策極為重視，毛澤東主席親自起草安民布告和對開封守敵的喊話材料，並指出除劉茂恩一人外，其餘一概不究。朱德總司令在濮陽會議上也指出：“統一戰線政策還是很重要的，反美反蔣的民主統一戰線還要擴大，今後來參加這個統一戰線的人，反對蔣介石的人還多得很，我們應當聯合他們，否則就會把自己孤立起來。”遵照上述精神，我軍一進開封城，唐亮等人就以主要精力抓城市政治工作。各部隊結合軍事進攻，展開政治攻勢，使不少敵軍士兵調轉槍口向敵人開火。
破城當晚11時，由我軍民運部長主持，召開了社會名流會議，在會上決定成立臨時籌委會。這樣就打破了部分上層人土對我軍的恐懼和疑慮，在爭取他們對我黨我軍的同情，增強國民黨內部的矛盾方麵起了一定作用。河南省政府秘書長在我軍寬大政策的感召下，感歎地說：“全國人心向你們。”