而東北野戰軍早已預先部署強大阻擊兵團，采取堅守陣地與運動防禦的方式，抗擊南北兩路增援的國民黨軍，先後殲敵一萬多人。東北野戰軍塔山阻擊部隊，左憑渤海、右據虹螺山，英勇頑強，堅守陣地7個晝夜，抗擊在國民黨軍海空軍支援下的6個師兵力的進攻，使該敵距錦州僅30餘裏，始終無法前進，創造了塔山阻擊戰的範例，保證了攻錦部隊部署就緒，充分完成準備工作，對攻克錦州起了決定的作用。
東北野戰軍另有一部強大阻擊兵團在黑山、大虎山一線及彰武、新立屯附近地區，阻擊廖耀湘兵團，保障攻錦部隊東麵及東北麵的安全，並抑留吸引該敵，便於東北野戰軍爾後作戰。
10月9日至13日，東北野戰軍掃清了錦州國民黨軍外圍據點，於14日上午11點開始總攻。經過31個小時的激戰，至15日下午5點，戰鬥全部勝利結束，全殲守敵範漢傑“冀熱遼邊區司令部”、國民黨軍第6兵團司令官盧浚泉兵團部等以下2個軍部、8個整師（外圍義縣殲滅國民黨軍1個師）共10萬餘人。錦州的攻克，是解放全東北的決定性的勝利。它不僅使盤踞在長春、沈陽的國民黨軍喪失主要供應基地，其向關裏逃跑的後門被緊緊地關閉，而且動搖了東北全部國民黨軍，完全打亂其整個防禦體係，使戰局急轉直下，造成解放長春、解放沈陽的有利條件。
失去了錦州，就等於失去了全東北。
在東北野戰軍攻克錦州的勝利直接影響及強有力的政治爭取下，國民黨軍第1兵團副司令官兼第60軍軍長曾澤生將軍率部第60軍起義，國民黨軍東北“剿匪”總司令部副總司令兼第1兵團司令官鄭洞國率第1兵團及新7軍投誠。東北野戰軍兵不血刃，解放長春。
遼沈戰役發起後，濟南又進入到中央軍委的視野。
濟南曆來是兵家必爭之地，津浦鐵路和膠濟鐵路從此交叉而過，戰略地位非常重要。濟南北靠黃河，南倚泰山，地形險要，易守難攻。在日寇占領期間，即築有堅固的防禦工事；國民黨軍劫收以後，又係統地進行了全麵設防。在濟南周圍百裏內，從核心到外圍，遍布鋼骨水泥碉堡千餘個，及無數個地雷陣，無數道電網、石牆、鹿砦、壕溝。國民黨軍第二綏靖區司令官王耀武把9個正規旅、5個保安旅和特種兵部隊集中到一起實行防禦，致使內線防禦兵力達到11萬人。他還由裏到外設置了核心防禦陣地、基本陣地、外圍陣地等三層環形防禦陣地，修築了大量工事。此外，國民黨軍邱清泉、黃百韜、李彌三個兵團在徐州虎視眈眈，如果濟南吃緊，則立即北上進行增援。
身為第二綏靖區主任兼山東省主席王耀武，在山東戰場連戰連敗、特別是第74師覆滅後，垂頭喪氣，傷心萬狀。他曾在國民黨山東省議員大會哀鳴：“我為省政府問題真是操碎心了，成天盼望著‘中央’允許我辭職，好休息休息。”言下不勝黯然。
對於守濟南，他沒有絲毫信心。
攻打濟南，軍委決定實行新的戰法“攻濟打援”，即在保證有足夠的兵力攻克濟南的前提下，以大部分兵力用於打擊殲滅國民黨軍援兵，爭取實現在攻克濟南的同時，也殲滅一部分國民黨軍援兵。這是新的條件下解放軍“圍城打援”、“圍城阻援”等戰法的發展。
早在7月份華東野戰軍占領兗州後，軍委就有意讓山東兵團攻擊濟南，迫使邱清泉兵團、黃百韜兵團分兵北援，華東野戰軍主力則利用機會打擊國民黨軍隊援兵。經過一個多月的反複磋商，最終形成了“攻濟打援”的方針。
8月下旬，華東野戰軍前委在山東曲阜召開的有縱隊以上領導幹部參加的作戰會議。會議在統一認識的基礎上，製定了濟南戰役的作戰計劃。
8月28日，中央軍委致電粟裕，強調：“我們不是要求你們集中最大兵力，不顧一切硬攻濟南，這樣部署是非常危險的。我們要求你們的是以一部兵力真攻濟南（不是佯攻，也不是隻占飛機場），而集中最大兵力於阻援與打援。濟南是否攻克，決定於時間，而取得時間則決定於是否能阻援與打援。故我們於12日12點電要你們隻用東兵團攻城，至多再加個別的師或一個縱隊，而用其餘全力阻援及打援。26日3點電則要你們不但在阻援打援方麵留出強大後備兵力，就在攻城方麵亦須如此，以便在必要時機集中全力先殲援敵，因不真攻濟南，則援敵必不來。攻城使用兵力太大，則打援又無力量。在此種形勢下同意你的意見，第一階段以足夠攻占機場及吸引援敵之力量（兩至三個縱隊）用於攻城，其餘全部用於打援。依情況發展，如援敵進得慢，而攻城進展順利，又有內應條件，則可考慮增加攻城兵力，先克城後打援。如援敵進得快，則應全力先打援，後攻城。”
曾澤生起義抵達哈爾濱，在歡迎大會上講話根據軍委指示和戰場實際情況，粟裕決定將參戰兵力的44%組成攻城集團，56%組成打援集團。攻城集團兵力包括6個半縱隊、特種兵縱隊大部以及部分地方武裝，總兵力約14萬人，以山東兵團領導機關為攻城集團的領導機關，山東兵團司令員許世友任司令員，華東野戰軍副政治委員兼山東兵團政治委員譚震林兼攻城集團政治委員，山東兵團副司令員王建安任攻城集團副司令員，統一指揮攻城作戰。打援集團兵力包括8個半縱隊、配屬特種兵縱隊一部和部分地方武裝，總兵力約18萬人，由華東野戰軍司令部直接指揮。
9月11日，許世友向中央軍委報告：以現在情況打下濟南是有把握的，但從部署上看，我們兵力不集中，沒有重點的使用，這樣很容易造成對我不利，尤其是攻濟南的兵力已布置好，不能變動，第一步就這樣，但第二步我一定集中使用兵力。打下濟南我們有最大的決心與把握1948年10月21日，鄭洞國率部投城，這是鄭洞國抵達哈爾濱時的情形，隻要能擋住援敵。請令打援部隊堅決擋住援敵，以爭取時間解決濟南。
隨即，軍委立刻複電，指出：“此次作戰目的，主要是奪取濟南，其次才是殲滅一部分援敵，但在手段上即在兵力部署上，卻不應以多數兵力打濟南。”
中央軍委認為：如果以多數兵力打濟南、以少數兵力打援敵，就會因為國民黨軍援敵太多而阻擋不住，造成濟南很難攻克。在兵力部署上，必須以華東野戰軍第1、4、6、7、8、11和蘇北兵團等共8個縱隊擔任打援，以其餘各縱隊擔任攻城任務。
同時，如果發生了兩種特殊情況，則兵力部署可予以改變。一種情況是：阻援與打援都非常順利，很快實現預定目標，這樣在攻城尚未得手的時候，就可以從打援方麵抽調兵力參加攻城戰鬥。另一種情況是：攻城已有把握，但還不能最後結束戰鬥，這樣在援敵被阻難於急進之時的情況下，也可從打援方麵抽調一部兵力參加攻城。
軍委還指出攻城部署應分為兩個階段：第一階段集中優勢兵力攻占西麵飛機場，東麵則不要使用主力。第二階段則依戰況發展，將主力使用於最有利發展的方向。
軍委明確指示：整個攻城指揮，由山東兵團擔負。全軍指揮，由粟裕擔負。整個戰役應爭取一個月左右打完，但是必須準備打兩個月至三個月，準備對付最困難的情況，並以此作為一切部署和工作的主要的出發點。
炮兵向濟南城轟擊9月16日晚，濟南戰役打響。攻城兵團在許世友等人的指揮下，一舉突破濟南外圍防線，沿各個要點向城內猛攻。西集團各部分別襲占匡李莊、雙山頭、長清等外圍據點，乘勝進逼飛機場、臘山、黨家莊；東集團各部展開猛烈攻擊，分別攻占城東屏障茂嶺山、硯池山等要點，在殲滅整編第73師一部後，直撲外城。王耀武猝不及防，大慌手腳，急忙調兵遣將，實施防禦反擊。19日晚上，國民黨整編第96軍軍長兼第84師師長、濟南西線指揮官吳化文率3個旅2萬餘人毅然起義，給予國民黨軍隊強烈震撼。東、西集團迅速突破外圍陣地，經過激戰又突破了外城防線，進逼到國民黨軍內城防線。為了援助濟南守軍，蔣介石命令邱清泉、黃百韜、李彌三個兵團迅速北援，並調集空軍參戰。
23日晚，攻城兵團對內城發起總攻，激戰一天，全殲盤踞在內城的國民黨軍隊。第二綏靖區司令官王耀武、副司令官牟中珩和國民黨山東省黨部主任委員龐鏡塘等人在逃跑路上，被華東野戰軍俘虜。
被生俘的王耀武前來增援的國民黨軍隊並沒有按計劃趕來，他們都擔心在運動中被解放軍“吃掉”。
濟南戰役共殲滅國民黨軍10.4萬餘人（包括起義的2萬人），俘虜23名國民黨軍高級將領，繳獲800多門各式火炮，20輛坦克、裝甲車，238輛汽車。
在戰鬥過程中，為使佛教名山千佛山免遭炮火毀傷，聶鳳智司令員斷然指示部隊對山上守敵一個營圍而不打，待克城之日迫其繳械投降，千佛山無數文化瑰寶因此毫發未損。
濟南戰役隻用了８天時間，而中央軍委預計最好的情況是20天。
中共中央特地發來賀電，指出濟南戰役的偉大勝利，“證明人民解放軍的攻堅能力已大大提高。勝利影響已動搖了蔣介石反動軍隊的內部。這是兩年多革命戰爭發展中給予敵人的最嚴重的打擊之一。”
新華社發表評論：“這是證明人民解放軍強大的攻擊能力，已經是國民黨軍隊無法抵禦的了，任何一個國民黨城市都無法抵禦人民解放軍的攻擊了。”
周恩來後來評價：“三大戰役的序幕是濟南戰役。”
聽到濟南失守的消息，蔣介石氣得暴跳如雷，氣急敗壞地說：“實出意料之外。”他一下子把收音機摔得粉碎。
杜聿明說：“我們的‘重點防禦’計劃已被擊破了。”
美聯社評論：“自今而後，共產黨要到何處，就到何處，要攻何城，就攻何城，再沒有什麼阻擋了。”
日本《朝日新聞》評論：“中國的內戰進入了一個極重要的新階段。”