淶源戰役期間，冀中軍區集中10個營，共約8500人的兵力，發起了任河大肅戰役。在整個戰役過程中，日寇不斷對冀中第23團進行合擊，但冀中軍區內外線部隊密切配合，使日軍顧此失彼，完全陷入被動，在近20天的時間裏，冀中軍區的部隊作戰112次，連續攻克東固賢、良村、西劉莊等29個日偽軍據點，以傷亡573人的代價，殲滅日偽軍1456人，其中日軍805人。有力地鉗製了日偽軍的兵力，配合了淶源地區的作戰。
9月23日，劉鄧所部第129師發起榆遼戰役。以第385旅附第32團為右翼，攻取榆遼公路東段各據點；以第386旅、決死第1縱隊兩個團為左翼，攻取榆遼公路西段各據點；以新編第10旅為主組成平（定）遼（縣）支隊，破擊平遼公裏和順南北地段，並鉗製遼縣之敵；以太嶽轄區第17、第57團組成沁北支隊，破擊白晉鐵路沁縣至分水嶺段，並鉗製敵人從白晉鐵路抽兵增援榆遼地區。
23日23時，左右兩翼部隊同時向預定目標發起攻擊，經8天激戰，攻克榆社、沿壁等據點。隨後，第129師主力轉攻遼縣。這時，從和順、遼縣西援的500多名日軍一路急行軍，向狼牙山的阻擊陣地發起猛烈進攻。擔任阻擊任務的第32團官兵利用有利地形，堅決抗擊。這路日軍見正麵難以突破，就以主力迂回到狼牙山主陣地的側後，這對擔阻擊的第32團構成了嚴重的威脅，日軍突破了狼牙山阻擊陣地向左翼部指揮所附近逼近。八路軍總部遂決定結束戰鬥。
榆遼戰役，日軍獨立混成第4旅團遭到了八路軍第129師的殲滅性打擊，僅100多人得以幸存。榆次城內，日軍儲備夠用一年的糧秣、武器和彈藥，全部被八路軍繳獲。
戰役第二階段，賀龍向彭德懷請示，第120師可否提前於9月15日開始行動。彭德懷同意了賀龍的計劃。
為了配合淶靈、榆遼地區作戰，賀龍決定組織部隊再次破襲同蒲路北段。要求第358旅破襲原平至寧武地段；獨1旅破襲忻縣至原平地段；特務團掩護後方聯絡。至9月27日，第120師控製了朔縣至原平之間的數段鐵路，使同蒲鐵路北段交通陷入癱瘓。
百團大戰第二階段作戰，八路軍共作戰620餘次，攻克日偽軍據點123處，殲滅日偽軍9000餘人。
華北地區的日軍遭到八路軍近兩個月的連續打擊以後，深感八路軍抗日力量的強大，感到八路軍對其在華北駐軍的威脅。日本侵略軍為穩定華北的局勢，從10月上旬開始，陸續調集重兵，對華北各抗日根據地進行殘酷的掃蕩。從而開始了百團大戰的第三階段作戰。
第三階段作戰從10月6日開始，八路軍主要進行反掃蕩作戰。日軍以獨立混成第4旅團、第36師團各一部萬餘人，連續“掃蕩”太行區榆社、遼縣、武鄉間的濁漳河東西地區，重點進攻中共中央北方局、八路軍總部和邊區黨政機關所在地，企圖殲滅第129師主力和黨政軍首腦機關。
10月13日至27日，日軍駐蒙軍、第1軍、第110師團、獨立混成第15旅團、臨時混成第101旅團各部共萬餘人，分10路對平西地區的八路軍進行合擊。
11月9日，日軍第110師團等部1萬4千餘人，分數路“掃蕩”太嶽區，合擊晉察冀軍區領導機關所在地阜平。
麵對日軍的瘋狂進攻，八路軍總部要求各根據地黨政軍民密切配合，堅決消滅進攻日軍的一至兩路，廣泛開展遊擊戰爭，粉碎日本侵略軍的“掃蕩”。八路軍各路部隊遂轉入反“掃蕩”作戰。
在太行山區根據地，第129師部隊通過關家腦、黃煙洞等戰鬥，粉碎了日軍對太行區的掃蕩。在平西區，八路軍主力部隊協同地方武裝，內外線相結合，廣泛開展遊擊戰爭，迫使日軍退出根據地。在晉察冀軍區，聶榮臻要求避免與日軍決戰，采取廣泛遊擊戰，最大限度地消耗與疲憊日軍，使日軍行不得其時，住不得其所，食不得其飽。主力兵團在便於機動的地域集結，隨時抓住戰機，殲滅日軍一路或兩路，以轉換戰局。根據這一方針，在持續50天的反掃蕩中，先後斃傷日偽軍2000多人。
11月中旬，日軍集中了駐晉西北的獨立混成第3、第9、第16旅團和第26師團各一部，駐晉南的第37師團、駐晉東南的第41師團各一部共2萬餘人，對晉西北抗日根據地進行全麵掃蕩。日軍所到之處，許多村莊被燒光，許多家庭被殺絕。晉西北全區，有5000多群眾遭到日軍慘殺。在興縣，日軍把200多名男女老幼關進一間房子內，將他們活活燒死。
麵對嚴峻的形勢和日軍的暴行，第120師和晉西北人民密切配合，實行空室清野，堅持區不離區，縣不離縣的遊擊戰。同時集中一部主力，尋機殲滅小股日軍，並不時地將主力轉移到外線作戰，破襲日軍的交通線，襲擊日軍的據點，攻擊日軍的修路部隊和運輸隊，使日軍不得安寧。在這次艱苦的反掃蕩中，晉西北軍民先後作戰217次，殲日偽軍2500多人，破壞公路125公裏、橋梁23座，日軍被迫全部撤出晉西北抗日根據地。
百團大戰於1940年12月5日，在反掃蕩勝利聲中結束。共計作戰1824次，攻占據點293個，入縣城11個、市鎮5個，斃日軍大隊長以上官佐永野千秋等19人、斃傷日軍20636名、生俘日軍281名。斃傷偽軍5153名、俘偽軍1471人。繳獲各種炮52門、各種槍支5800餘支，破壞鐵路470公裏、公路1500餘公裏、橋梁隧道260多處，正太鐵路停運1個多月，同蒲鐵路北段兩次被截斷，平漢、津浦、北寧等鐵路同時遭到不同程度的破壞。八路軍傷亡17590人。
百團大戰提高了中共和八路軍在全國，乃至全世界的聲望。使日軍從此將戰略重點轉向對付中共領導的華北抗日根據地。使侵華日軍華北兵團增加到近40萬人，並且將華中派遣軍司令岡村寧次派往華北，以加強對華北敵後武裝的圍剿。這樣一來，大大減輕了正麵戰場上國軍壓力。
由於中國戰場上國共兩黨、正麵戰場與敵後戰場密切配合，日軍從此陷入正麵戰場和後方占領區兩麵作戰的被動局麵。麵對這一局麵，日本政府內部產生了巨大分歧，其中部分政治人物一度產生退出中國戰場，以謀求妥協或退出戰爭的思想。那麼，這是怎麼回事呢？