10月30日，日軍攻占陽泉、平定等地後，以追擊方式前進，加快了向太原進犯的節奏。
娘子關失守，使戰局發生急變，太原、忻口已麵臨日軍大包圍威脅。11月2日，衛立煌根據閻錫山命令，組織部隊撤出忻口陣地，向太原靠攏。同日，日軍攻占壽陽，從東麵和南麵兩個方向逼近太原。
太原位於山西省中部，太原盆地的北端，地垮汾河兩岸，是山西省的政治、經濟、文化和交通中心。娘子關失守後，閻錫山不敢也不肯放棄太原。11月2日，閻召集黃紹竑、衛立煌、傅作義等高級將領，研究守城部隊和軍事部署。閻的心情格外沉重，他走進會議室，開口就問：“誰來守城？”
將領們你看我，我看你，突然傅作義站起來，高聲說：“太原城我來守。”
在這次會議上，閻錫山提出保衛太原的方針是：利用太原四周既設陣地，實行依城野戰，阻敵前進，消滅日軍兵力，待後續兵團到達，再施行反攻而聚殲之。
第二戰區苦戰近一月，已經沒有有生力量了，防守主要靠從忻口和娘子關撤退下來的、已經十分疲憊的部隊。
11月4日，閻錫山任命傅作義為太原城防司令，命令衛立煌任第二戰區前敵總司令，組織太原防禦戰。閻錫山還決定，第二戰區長官部指揮所轉移到太原西南方的交城。這個部署，實際上是忻口防禦戰和娘子關防禦戰的繼續，幾十個師在撤退過程中組織新的防禦。又沒有更好的地形可以依托，尤其是時間緊迫，防禦更倉促。中國軍隊立足未穩，日軍就進至太原城下，城市防禦戰變成了運動戰。
5日，從東麵進攻的日軍攻占榆次，日軍控製了太原南麵。閻錫山心裏直打鼓，這天深夜，他把衛立煌和傅作義找到一起，憂心忡忡地說：“日軍進攻這樣快，太原怎麼才能守得住？”
傅作義看了看衛立煌說：“太原與晉南的通道很重要。衛司令的部隊可以部署到太原以南，以形成犄角之勢。這樣，我們會主動些。”
衛立煌略加思考說：“太原北麵和東麵一共聚集了十萬多日軍，這些都是有作戰經驗的部隊。傅司令的意思是對的。”衛立煌轉過頭對閻錫山說：“我指揮的幾個晉軍師可以歸還你的建製。”衛知道閻視軍隊如生命，現在把部隊調到晉南，一旦戰局不利，部隊繼續南撤，閻錫山會心裏不踏實，故有此說。
11月6日，從北麵進攻的日軍前進到太原城垣之下。閻錫山、傅作義和衛立煌研究的最新部署尚未落實，日軍第20師團就切斷了太原與晉南的通道，中國軍隊成犄角之勢的防禦態勢不可能實現。衛立煌看到形勢嚴重，立即把主力部隊轉移到太穀、交城一線，阻止日軍沿同蒲路繼續南下。同時令第71師、獨立第7、第8旅等部隊，立即增援第7集團軍，守備太原。
奉命增援守城的多數部隊受到阻隔，被迫循汾河西岸南撤。隻有獨立第8旅的1個營渡過汾河，進入太原城內。閻錫山事先確定的依城野戰防禦計劃變成了孤城獨戰。
7日，日軍從南北兩個方向同時向太原進攻。太原城西汾河上的橋梁都被日軍攻占了，日軍實際上把太原四麵包圍。日軍飛機不斷向太原城內狂轟濫炸，防守太原的中國軍隊傷亡慘重。當日夜晚，防守城外的2000多官兵，被迫退入城內據守。
蔣介石得知傅作義率部頑強抵抗數日，傷亡慘重，他認為抗戰是持久戰，即電令傅作義“相機撤離”。
11月8日清晨，日軍在優勢火力掩護下，猛烈攻擊太原城。9時，東北、西北等處城垣被炸毀，日軍乘機向城內發起衝擊。守城的傅作義部雖然勢單力薄，但作戰勇敢，傍晚時分，東北角的1000多名守軍仍與日軍展開激烈的巷戰。這時，傅作義把幾位高級將領召集到一起說：“我反複想過了，抗戰是長期的，今晚就撤走。”
當晚21時，傅作義率部從南門突圍，部隊突出包圍後，連續步行7天7夜，來到山西中陽縣、柳林一帶休整。
11月9日，太原陷落。衛立煌率部退至太原西南的孝義、介休地域，構築工事，與日軍對峙。閻錫山率所部退守太原西部，據守黃河防線。八路軍所屬第115師則進入敵後晉察冀邊境山區、第120師進入晉西北、第129師進入晉東南。
至此，中日軍隊在山西的決戰結束了，戰爭開始進入一個新的階段。在晉綏戰場上，雖然日軍兵力達20多萬人，但隻能占據太原周邊及部分交通樞紐，難以組織大規模戰役。
會戰期間，八路軍第120師出師晉西北，第115師出師晉東北，第129師轉戰到晉東南，一個敵後抗日根據地發展的戰略態勢，已經展開。
山西戰局處於膠著狀態。日軍前進無力，隻有固守太原省和交通幹線。整個戰區呈膠著狀態。那麼，日軍下下一步將會向何處攻擊呢？