9月22日拂曉，第八師二十團奪下了西南一片洋樓；13時，二十七團攻入山東省銀行。十縱也由東北和東南迫近，王耀武的精銳一七二團600餘人被包圍，在路南隻剩下王耀武辦公室這個釘子了。被譽為“九勇士”的二十三團五連五班9個戰士，手擎著35至70斤重的炸藥包，連爆7包，把樓房西段炸開一個丈餘高的突破口，然後飛身衝進樓裏，和蔣軍逐樓、逐屋、逐梯、逐口地爭奪起來。走投無路的蔣軍隻好乖乖地一批一批地扔出槍支，舉手投降。戰至黃昏，全殲600餘守敵，商埠為解放軍所攻占，九勇士與部隊站在高聳入雲的大樓頂上，歡呼雀躍，相互慶祝勝利。此時，東兵團也掃清了城外地堡群，並全殲被圍困在王舍人莊的蔣軍，在城外展開近迫土工作業。
外內城攻堅戰
商埠攻占以後，王耀武垂頭喪氣，無可奈何，但他認為解放軍要完成攻城準備，還需要幾天時間。於是便下令再度調整防禦部署，整修工事，加強城防，企圖繼續頑抗。為了不讓城內蔣軍獲得喘息機會，攻城指揮部決定東西兩兵團同時發起對外城的攻擊。9月22日晚8時30分，攻城部隊以猛烈炮火向外城發起轟擊。
外城是蔣軍在濟南的一條堅固防線。城牆內壁和外壁一律用石塊砌成，高7至8米，厚4至5米或7至8米不等。城門樓和城牆上都設有高堡，城牆中部設有射擊孔，城腳下築有地堡，自上而下分設3層火力。城外挖有壕溝，寬5至7米，深3至4米。同時，壕外幾十米遠的民房大部被拆除或炸毀，壕外廣闊地帶完全置於城牆火力之下，攻擊無依托。就在華野各部隊向突擊地域躍進之時，蔣軍輕重火器一齊開火，並使用了毒氣彈和火焰發射器，轉眼間，毒氣滾滾翻騰，火焰熊熊燃燒，整個前沿陣地迅速變成一片火海。盡管如此，解放軍眾炮齊鳴，群彈齊飛，蔣軍城防工事不斷在炮聲中傾倒，攻城各部隊衝過毒氣，穿過火海，殺上外城牆。東兵團九縱很快占領了永固門，向南突擊。為九縱助攻的渤海縱隊，也突破外城防線，沿街向縱深發展。西兵團十縱一部突破永鎮門攻入外城，另一部突破普利門。三縱右翼助攻獲得成功。十三縱也由城西南角永綏門突破外城。各部隊突入外城後，立即與守敵展開巷戰，激烈拚殺，經一晝夜的戰鬥，至23日下午，蔣軍大部被殲，解放軍全部攻占外城。
這時，王耀武仍然錯誤地判斷，解放軍連續作戰已經疲勞，若要攻擊內城，需經三五天準備方可。在南京的蔣介石，眼看濟南不保，一麵嚴令徐州援兵迅速北上，並派空軍向內城投送糧彈，向解放軍占領的市區狂轟濫炸；一麵派徐州“剿總”總司令劉峙和空軍副總司令王叔銘飛臨濟南上空，給王耀武鼓勁打氣。此時此地的王耀武，心慌意亂，如坐針氈，內心充滿了矛盾和痛苦，自知在劫難逃，又不甘束手就“殲”，再一次橫下一條心，決定以內城僅剩的一道防線，同解放軍作最後的較量。
內城是王耀武在濟南的最後一道核心陣地，城牆高13米，厚10至12米，明碉暗堡密布，除同外城一樣設置3層火力外，另在城頭相距10米修一子堡，30米修一母堡，70～100米修一炮台。在城東南角，矗立著一座氣象台、站，在這裏可俯瞰城內外，是全城的製高點。護城河寬五六米至二三十米不等。蔣軍還堵住黑虎泉水，引入護城河，水深3～5米。國民黨山東省政府就設在這裏，王耀武撤入內城後，就龜縮在這裏指揮。
為乘勝迅速徹底全殲濟南蔣軍，華野攻城指揮部要求部隊發揚勇敢戰鬥，不怕犧牲，不怕疲勞和連續作戰的優良作風，一鼓作氣，拿下敵人最後一個堡壘，命令部隊當晚緊接著攻打內城。23晚6時，全線對內城的攻擊開始。此時，王耀武膽戰心驚，盼援兵兩眼欲穿，可他哪裏知道，盡管蔣介石再三嚴令督催，也不管用。駐商丘、碭山的邱清泉兵團，深知迎麵有華野布下的打援兵團嚴陣以待，側翼又有劉鄧大軍集結牽製，正畏途如虎，一步三顧，僅行至城武、曹縣一帶，距濟南尚有數百公裏之遙；而黃百韜兵團和李彌兵團，卻以集結為幌子，遲遲不動。王耀武在內城坐臥不安，親目沿著內城牆走來走去，企圖孤注一擲，嚴令部隊憑借地勢和火器優勢，居高臨下，瘋狂反擊。