7月上旬，日軍在華北的兵力約有27萬人，華北偽軍約有14萬人，武漢方麵兵力較少。日軍為了增強第11集團軍的守備，7月20日，從華北抽調了6個步兵營、1個山炮營到武漢。司令部駐在石家莊的日軍獨立混成第8旅團主力正在冀中“掃蕩”。這樣一來，正太鐵路沿線的日軍兵力暫時減少。
為了粉碎日本侵略軍對華北抗日根據地的全麵進攻，打擊其“囚籠政策”，製止國民黨右派的投降活動，進一步發展敵後鬥爭的新局麵，並影響全國的抗戰形勢，八路軍總部決定，實施醞釀成熟的破襲正太路的設想，向華北日軍占領的交通線和據點發動大規模破襲戰。
7月22日淩晨，一束束電波飛向天空，朱德、彭德懷、左權聯名下達的關於大舉擊破以正太鐵路為中心的《戰役預備命令》傳到各部隊，傳到延安。
延安收到這份注明“十萬火急”的電報以後，立即抄送毛澤東、王稼祥、洛甫、王明、康生、陳雲、鄧子恢、任弼時、譚啟龍和作戰局。朱德已於5月26日返抵延安，這份由他和在前方的彭德懷、左權3名八路軍主要指揮員聯合署名的電報，也同時抄送給朱德。
8月8日，朱德、彭德懷、左權三人聯名下達了《戰役行動命令》。這項命令規定，總部特務團主力集結於下良西營地區，聶集團、劉鄧集團、賀關集團和總部特務團，統由總部直接指揮，“限8月20號開始戰鬥”。
戰役行動命令下達以後，八路軍指戰員群情激昂，紛紛進行戰鬥準備，對一些重要作戰地域，指揮員和參謀人員親自化裝去偵察。當時擔任第129師第358旅旅長的陳錫聯將軍回憶說：“我們這些旅幹部，當時都化裝去鐵路沿線偵察了地形。”
日軍華北方麵軍參謀長於10月13日向日本陸軍次長報告戰役情況時加注說：“獨立混成第4旅團司令部所在地的陽泉，在盂蘭盆會期間發現很多平日未曾見過的健壯男子前來遊逛，市場上賣東西的人，有半數改換了新人。事後查明，從8月前後經常出入陽泉車站的一個男子，據說是共軍某部的參謀長。”
八路軍的勇士們首先在正太路向日本侵略軍發起進攻，打擊日本侵略者的戰鬥很快擴展到晉冀察全境、晉綏大部和熱河南部地區；正太、平古鐵路全線，安陽以北的平漢鐵路，德州以北的津浦鐵路等地，除山東以外的整個華北地區和主要交通線上，到處可以聽到抗日軍民破襲日軍交通線的槍聲和爆炸聲。
百團大戰的號角吹響了。
晉察冀軍區部隊破襲娘子關下正太鐵路這場總破襲戰，首先在正太鐵路發起。
8月8日，朱德、彭德懷、左權下達的《戰役行動命令》進一步明確了戰役部署和任務，其中要求：“聶集團主力約10個團破壞平定（平定縣不含）東至石家莊段正太線，破壞重點應在娘子關、平定段。對北寧線、德州以北之津浦線、德石路、滄石路、滄保路，特別是對元氏以北至盧溝橋之平漢線，應同時分派足夠部隊寬正麵的破襲之，阻擊可能向正太線增援之敵，相機收複某些據點。對西、北兩麵之敵，以適當兵力監視之。另以有力部隊向盂縣南北敵據點積極活動，相機克服某些據點。”
“聶集團”是指由司令員兼政治委員聶榮臻指揮的晉察冀軍區部隊，這是以八路軍第115師的獨立團、騎兵營、師教導隊等3000多官兵為骨幹發展壯大起來的，在晉察冀根據地開展敵後鬥爭的一支抗日力量。“聶集團”的主要任務是破襲正太路東段，主要作戰對象是日軍獨立混成第8旅團大部，獨立混成第4旅團一部。這一地域，有日軍堅固設防的娘子關天險，有日軍的重要燃料基地井隆煤礦。這些要點，日軍都進行嚴密守備。
聶榮臻司令員接到八路軍總部的命令後，立即抽調了18個步兵團，1個騎兵團又2個騎兵營、3個炮兵連、1個工兵連、5個遊擊支隊，分別組成左縱隊、右縱隊、中央縱隊、鉗製部隊和總預備隊，破襲正太路陽泉至石家莊段；同時對平漢鐵路元氏至盧溝橋段等鐵路段也作了相應的破襲部署。
當時，正太路沿線的日本駐軍主要有獨立混成第4旅團全部，該旅團司令部設在陽泉；獨立混成第8旅團一部，該旅團司令部設在石家莊；獨立混成第9旅團一部，該旅團司令部設在太原。日軍在正太鐵路沿線城鎮、車站、橋梁、隧道附近築有堅固的防禦工事，在鐵路兩側10～15公裏地區還設有外圍據點。堡壘之間用交通壕相連接，周圍又設有鐵絲網、障礙物，布置了嚴密的火網，平定到石家莊兩側，就有40多個據點。破襲戰在許多地段將是攻堅戰。根據這些情況，聶榮臻決定先攻占敵據點，再實施破路。
戰前，聶榮臻要求參戰部隊抓緊時間進行攻堅和破城的針對性訓練，特別要重視偵察敵情，準備爆破器材，選擇好進攻道路。各項準備工作基本就緒以後，聶榮臻帶著一個精幹的指揮組趕到前線。
聶榮臻的指揮所設在井陘附近一個叫洪河漕的小山村裏。井陘有總礦、新礦、陽並礦3個礦區，是華北地區一個儲量豐富的煤礦，日軍把這個煤礦視為命根，投入了相當多的人力物力。聶榮臻決心破壞這個煤礦，有意把指揮所設在井陘附近。