8月20日，夜空漆黑，雨淅淅瀝瀝地下著，突然，正太鐵路兩旁騰起了一顆顆紅色信號彈。刹那間，隨著一陣雷鳴般的爆炸聲，各路突擊部隊像猛虎下山，撲向敵人的據點和車站。
八路軍向正太鐵路全線發起突然攻擊，日軍事先竟然毫無所知，各據點守軍沒有任何準備，一時間，全線陷入被動。戰役之初，守備正太路東段的日軍獨立混成第4旅團司令部“根本弄不清楚各方麵的情況，經過二三天以後，才逐漸判明”。
在聶榮臻指揮下，晉察冀軍區的部隊3路出擊，3路高奏凱歌。
其中一路是突襲娘子關的右縱隊由晉察冀軍區第2軍分區司令員郭天民、第4軍分區政治委員劉道生指揮，轄有第19、第5團，主要負責擊破正太鐵路娘子關至亂柳段之間的交通線，重點是娘子關的日軍據點。娘子關，原名葦澤關，位於山西平定縣城東北45公裏處，是古長城的著名關隘。相傳唐太宗之妹平陽公主統領娘子軍駐此設防，故稱娘子關。關城兩翼之長城依山勢蜿蜒，是正太路上晉、冀兩省交界地帶的天然屏障。關城北側桃河，水流湍急，南接山嶺，逶迤相連。石太線順山峽蜿蜒鋪設。1937年10月，日軍占領娘子關後，又依據險峻的山穀加修了4個大堡壘。關上有日軍駐守，關下的村子裏駐守著偽軍。
8月20日20時，擔任主攻任務的第5團指戰員悄悄潛入娘子關村，很快解決了村裏的偽軍。勝利的喜悅鼓舞了八路軍指戰員的信心，他們沿著陡峭的山坡，冒著密集的火網，向娘子關上的日軍堡壘仰攻。守關日軍毫無準備，被八路軍打得措手不及。經過3小時激戰，第5團的2個連攻入娘子關，殲滅了大部分敵人，八路軍的紅旗插上了被日軍占領3年的娘子關。
這是正太鐵路中最早攻克的一個重要戰略據點。在侵略軍鐵蹄下生活了近3年的娘子關地區的同胞，看到八路軍的紅旗高高地飄在關頭上，興奮得流出了淚水。
聶榮臻得知右縱隊的指戰員攻克娘子關，感到興奮，但他立即拒絕了部隊要求堅守娘子關的請求，命令部隊在炸毀堡壘工事和東麵的鐵路橋後，撤離娘子關。當日軍的增援部隊趕到時，八路軍已經撤得無影無蹤。
8月23日，第5團官兵再次攻入娘子關，炸毀了娘子關東麵1公裏處的一座石橋，破壞了程家隴底、磨河灘之間的鐵路。
第5團第1營第1連向磨河灘車站這個日軍據點襲擊時，卻意外地遭到了日軍的反擊。磨河灘車站原來隻有100多名日軍，八路軍以1個連突然襲擊，有勝利的把握，誰知這天日軍的800多名退役軍人乘火車經過這個車站，聽到槍聲，也加入了戰鬥，這樣一來，磨河灘車站的日軍突然增加到近千人，戰鬥力發生了變化。
8月21日拂曉，一連撤出車站。破襲磨河灘車站的任務沒有完成，指戰員們摩拳擦掌。當天晚上，第1連官兵悄悄地渡過棉河，攻入磨河灘車站，日軍聽到槍聲，退入營房繼續抵抗。就在兩軍相持的時候，500多名日軍乘鐵甲列車前來增援，天空突然下起了大雨，棉河水上漲，人員難以徒涉，一連指戰員即搶占了磨河灘車站西麵的一個村莊，伺機行動。
8月22日下午，日軍組織起400多人，開始對第1連進行反擊。第5團首長得知這一情況後，即命令團主力對一連進行火力支援。不一會兒，反擊的日軍遭到了棉河北岸猛烈炮火的襲擊，反擊受阻。第1連指戰員英勇戰鬥1日，殲滅50多名日軍後，奉命撤出戰鬥。
第19團官兵在戰鬥發起後攻入巨城和移穰車站。8月23日晚上，第19團再次攻入移穰車站，炸毀了車站的水塔和鐵路設施。
8月24日~27日，右縱隊的指戰員連續作戰，接連炸毀了20孔石橋。日軍各據點的聯絡被切斷，遭到八路軍的各個擊破，正太鐵路娘子關至亂柳段，交通完全斷絕，日軍異常恐慌。
左縱隊由晉察冀軍區第4軍分區司令員熊伯濤指揮，轄有冀中警備第2旅、晉察冀軍區特務團、平井獲支隊等部隊，主要負責破襲微水至石家莊之間的鐵路和公路。戰鬥打響後，各部隊分頭行動。
平井獲支隊在8月20日夜晚襲擊岩峰，爆破鐵路。特務團在20日夜掩護群眾破壞公路後，又於22日夜攻入上安車站，殲滅了車站的日軍。警備旅第2團於23日夜攻入頭泉車站，破壞了日軍的2個堡壘。
8月25日至27日，左縱隊指戰員連續出擊，對平山、獲鹿、微水、岩峰之間的公路進行破擊，取得了滿意的戰果。
中央縱隊由第1軍分區司令員楊成武指揮，轄有第2、第3、第16團，主要負責破襲正太鐵路娘子關至微水段，攻打井陘煤礦。戰鬥打響後，第16團第2營等部隊接連攻克了地都、北峪、南峪等日軍據點，殲滅了南峪的大部分日軍，破壞了日軍占據的兩座橋梁。第2團攻占了驢嶺鐵橋東端的堡壘，還一度占領蔡莊日軍據點。