太原整個戰役大體分為三個階段，戰役第一階段，首先在小店地區圍殲閻軍兩個多師，進而進行外圍要點的爭奪戰，到12月4日占領了城南和東山四大要塞，打開了進攻太原的門戶，共殲滅和瓦解閻軍6萬餘人。5日，根據中共中央軍委的指示，為配合平津戰役，緩攻太原，部隊轉入休整，除了對太原城閻軍做好監視外，就是部隊實地練習攻城攻堅的本領；另一方麵就是對太原城開展“陣地喇叭戰”，也就是每天夜晚在前沿陣地對閻軍喊話，開展政治宣傳。平津戰役結束後，華北第十九兵團、第二十兵團及四野炮兵第一師，於1949年3月底開抵太原前線，協同第十八兵團作戰；根據中央軍委的決定，組成太原前線司令部和黨的前委，以徐向前任司令員兼政治委員和總前委書記。
攻城作戰
1949年3月底，中國人民解放軍副總司令兼第一野戰軍司令員彭德懷，由中央返回西北，途經太原時，因徐向前生病，他參與了總攻太原的作戰指揮。此時，正適國共和平談判在北平重開。4月11日，中共中央軍委致電太原前線總前委：我們和南京代表團的談判已進行了11天，頗有進展，如南京方麵同意，可能於15日或16日簽字，但破裂的可能性仍存在，請將攻太原的時間，推遲到22日，那時如能簽訂和平協定，則太原即可用和平方法解決，如和談破裂或簽訂後後悔不執行，則用戰鬥方法解決，對我亦無多大損失。
4月14日，太原前線總前委致電中共中央軍委：自趙承綬、曹國忠和趙恭所派的杜某會麵後，敵方並無回音，而封鎖更嚴。我們再送信入城，亦不能進去，我炮兵增加，均已進入陣地，偵察及各種準備工作已完成。按目前條件，爭取外圍切斷敵幾個師，而後乘勝攻城，把握是較大的。如16日與南京談判無大效果，可否提前攻擊太原。中央軍委於17日回電複示：你們覺得何時發起打太原有利，即可動手太原，不受任何約束。4月20日淩晨零時，南京政府拒絕在《國內和平協定》上簽字以後，太原前線人民解放軍萬炮齊發，解放太原的總攻打響了，古老的太原大地在熾熱的炮火中震顫起來。到22日閻軍外圍5個防區13個師全部被殲滅，其中城北軍事要塞屏障臥虎山，在中將軍長曹國忠率領下第十九軍11000多人毅然起義；北部大門洞開，使人民解放軍的鋼鐵洪流，越過臥虎山，直抵太原城。
24日拂曉，攻城戰鬥開始，解放軍的1300多門大炮，對準太原城牆，整整轟擊了20分鍾，城牆像一條火龍般熊熊燃燒起米，攻城的部隊蹲在掩體、壕溝內，回頭看看設在雙塔寺總攻指揮所，等待著總攻的信號，不一會兒6顆信號彈上了天空，炮火立即向城裏延伸，城牆已轟開兩丈多寬的一個大缺口，不用雲梯就可以越過去。一聲衝鋒的命令，突擊隊員劉庚武舉起紅旗，跳出掩體，突擊隊緊跟著紅旗，跑了上去。劉庚武很快站到了城牆上，雙手握著旗杆，紅旗撲啦啦來回搖擺，帶領尖刀組的副連長王福全立刻抽出信號槍，向天空發射了兩發“發龍”，向攻城指揮所報告：勝利地登上了太原城。
插在太原城頭的紅旗，正迎著朝陽，勝利招展！後續部隊，已像潮水般湧進城去，從四麵八方向著閻錫山的巢窩——國民黨太原“綏靖”公署會攻。12時許，逼近“綏署”辦公大樓，首先解決了閻錫山視為“誓死忠貞”的警衛部隊。正當解放軍要對大樓進行炸藥包爆破的時候，樓裏喊著：“別打，別打！”隨著聲音，跑出來一個人，穿著便衣，也沒戴帽子，慌慌張張向解放軍某部四連指導員許義保敬個軍禮，說：“長官，長官！有我們綏署參謀長在，他正要找貴軍談判。”許義保回答：“談判什麼？叫他出來投降！”接著，一個穿呢子軍服的家夥走了出來，兩眼不住盯著許義保，因為在入城時許義保的棉衣被火燒了，現在隻穿一件襯衣，棉褲也破爛不堪，這家夥便裝腔作勢地問：“你是什麼人？我要跟你們負責人談判。”許義保拿著手榴彈對他晃著說：“你還神氣呢！談判？我們早已給了你們談判的機會，你們不識好歹。現在沒什麼談的，隻有繳械投降。”這家夥看到許義保聲色俱厲，知道不是士兵，趕快賠笑道：“我是綏署參謀長趙世鈐，孫主任和王總司令都在，早就準備投誠哩。”許義保說：“少說廢話，趕快叫他們出來投降！”趙世鈐又從懷裏掏出一封信遞給許保義說：“這是我們孫主任和王總司令給徐向前將軍的信，請轉給他，我們宣布投降了，投降……”許保義立即命令他們把槍放在一邊，人站到另一邊。這時，孫楚、王靖國等一夥閻軍高級將領也都從樓裏擠出來，一個個從身上解下手槍、“軍人魂”短劍，規規矩矩地站在一邊。在外邊一數，這座樓裏竟有380多人，除了孫楚、王靖國、趙世鈐，還有閻軍十兵團副司令溫懷光、三十四軍軍長高卓之等十多個高級將領。