在壯大主力部隊，加強正規武裝建設的同時，山西各地黨組織還大力建立和發展地方遊擊武裝和人民自衛武裝。在晉東北，不但廣大的工、農群眾紛紛參加抗日武裝，各縣都成立了少則數百人，多則上千人的抗日遊擊隊、義勇軍。在晉西北，第120師地方工作團用僅1個月時間，在各縣組織起遊擊隊、自衛隊1.1萬餘人，不脫產的自衛隊5.7萬人。到1938年底，晉察冀邊區有組織的群眾達到100多萬人，不脫產的自衛隊員發展到30多萬人。在晉西南，各縣黨組織和犧盟會在當地合法成立了二三百人到三四百人不等的抗日自衛隊和遊擊隊。
黨領導的抗日武裝在山西的蓬勃發展，極大地促進了群眾性遊擊戰爭在敵後的開展，使抗日烽火在短短幾個月內迅速燃遍了山西的廣闊大地，並日趨猛烈地向整個華北擴展開來。
山西敵後遊擊戰爭的興起和抗日根據地的開辟，一開始就緊緊拖住了日軍，使其無法繼續向前推進。從1937年12月下旬到1938年4月下旬，晉察冀、晉西北、晉西南、晉東南各區抗日軍民相繼粉碎日軍的多路圍攻，使四大戰略支點毅然挺立在敵人後方，不僅殲滅了日軍的大批有生力量，而且有力地配合了國民黨軍正麵戰場的作戰。在此形勢下，中共中央作出關於開展平原遊擊戰爭的指示，八路軍各部自4月下旬起，陸續抽調主力，從以山西為中心的各戰區出發，向華北平原地區實行戰略展開。
第129師副師長徐向前率部東出太行，挺進冀南，開辟了西起平漢鐵路、東抵津浦鐵路、北至倉石公路、南跨漳河豫北的冀南和冀魯豫邊抗日根據地。第120師自雁北地區挺進綏遠，與當地黨組織領導的遊擊隊配合，開辟了以大青山為依托的綏南、綏中、綏西抗日遊擊根據地。第115師自晉西出發抵達魯西北，開辟了冀魯邊抗日遊擊根據地。八路軍以山西為基地向整個華北實行大幅度分兵，標誌著晉察冀、晉綏、晉冀豫三大抗日根據地初步形成。
中國共產黨從1944年起乘日軍抽調力量於太平洋戰場和實施打通大陸交通線之際，向日軍展開了局部反攻。1945年4月23日～6月11日，中國共產黨在延安召開第七次全國代表大會，製定了“放手發動群眾，壯大人民力量，在我黨的領導下，打敗日本侵略者，解放全國人民，建立一個新民主主義的中國”的政治路線。
1945年，中國軍隊對侵華日軍進行了全麵大反攻。8月15日，日本正式宣告無條件投降。9月9日，侵華日軍總司令岡村寧次在南京簽署了投降書。至此，中國人民抗日民族解放戰爭勝利結束。
據統計，八年抗戰中犧牲的八路軍旅以上軍官達114位，中國軍民傷亡3500多萬人，共殲滅日軍約200萬人。中國共產黨所領導的人民抗日力量對敵作戰12.5萬餘次，殲滅日軍52.7萬人，殲滅偽軍118萬人，收複國土100餘萬平方公裏。
太行山是一座神奇的山脈，是天下的脊梁。其形如刀，其體如鐵，其峰如劍，其嶺如刃，其神如骨，其勢如奔。太行山是一座豐碑，鐫刻著中國共產黨人的血肉抗戰功績，太行山作證，中國共產黨是全民族團結抗戰的中流砥柱。太行山又是一麵鏡子，既映射著一個偉大民族頑強不屈的精神，同時又反照著眾多個性分明的靈魂。