百團大戰發起後，彭德懷在8月26日第一次向各作戰區發布《開展正太線兩側作戰之戰役部署》。在這個命令中，彭德懷根據情況的變化，已經在思考第二步的行動計劃。
彭德懷設想：在正太路不能繼續堅持作戰或未徹底完成正太戰役任務之情況下，我之行動方針，應是乘勝開展正太線兩側之工作，去收複敵深入各根據地內之某些據點，繼續堅持正太線之遊擊戰，縮小敵占區，擴大戰果，同時以一部兵力進行休整。
由於敵人已經從第一次打擊中清醒過來，敵110師團於23日派出輕裝甲車隊及步兵一個大隊前往井陘地區增援。24日，日軍從太原出動飛機對129師破襲部隊進行轟炸。25日派出了增援部隊，特別是正大路東段石家莊至微水間的交通未能徹底斷絕，日軍從22日起即紛紛增援微水至井陘間各據點，使八路軍“在正太路不能繼續堅持作戰”的跡象越來越明顯。
彭德懷迅速將注意力從鐵路線上轉移到了鐵路線兩側之日軍據點，他設想了百團大戰的第二步行動計劃。
彭德懷認為，在實行第二步作戰計劃時，聶集團應以不少於4個團的兵力，力求收複上、下社以北各據點；賀集團應以適當兵力拔除根據地腹地之若幹據點；劉、鄧集團應以不少於4個團之兵力出擊平遼公路，而徹底毀滅之，並力求收複遼和兩城。
有了下一步的作戰構想，彭德懷對當前第一步的作戰行動應該做什麼就更加明確了。第二天，也就是8月27日彭德懷又下發了《正大線破壞愈徹底則我愈主動》的電報。彭德懷認為：
“百團大戰對整個戰局、改變敵我形勢均有極大意義，我在正太沿線能堅持愈久，破壞愈是徹底，可能逼使敵人改變其某些部份之兵力部署，從其他點線上抽調兵力增援正太。這給我尋求新的機動的方便。或逼使敵人放棄正大線南北某些據點，回救正太線，這對整個太行山根據地之鞏固更是有利。
能達到此目的便使我軍隊作戰容易取得主動權與操縱戰爭，因為百團大戰的結果隻能斷截正太線一時期內之交通，而不能取得戰局根本之改變。
“估計各線敵人正向正大線增援，正大線南北各據點敵仍圖堅守不放。
因此，我各線配合作戰兵團應繼續積極破擊，阻敵往援，正太作戰兵團除繼續徹底破路，拔除可能拔取之據點外，特別應對出擊或來援敵一個大隊以內之兵力，集結最優勢之兵力殲滅之。隻有殲滅敵一二個大隊，才能順利的擴張戰果。聶集團應阻擊向西來援之敵，應力求消滅其一部，對井陘、石家莊段鐵路應繼續破擊，對平、靈、曲、定、唐、滿各縣敵應不斷襲擾之。”這個計劃是主動的、進攻的，充分體現了彭德懷的決心與意誌，充滿了彭德懷對駕馭戰局的自信。
為了最大限度的破襲、最大限度的打擊敵人，戰役第一步先在內線破路，打擊敵人，等到日軍來援時，如果是小部隊，還要集結優勢兵力殲滅它，逼使日軍放棄正太線南北某些據點，回救正太線，這是第一步；第二步是當敵大部隊來援時，八路軍主力則跳出正太線，轉向鐵路南北兩側，尋找新的弱點開刀。
彭德懷的計劃充分抓住了華北日軍的最大弱點。
1940年3月日軍華北方麵軍召開各兵團參謀長會議，日軍華北方麵軍平田副參謀長在補充說明中講道：
“高度分散部署兵力的現狀，對軍隊的教育訓練極為不利，早日恢複集中部署，是我們最希望的。然而，考慮到華北治安的現狀，為爭取盡快恢複集中兵力，在目前一段時期，仍不得不繼續執行分散部署。”平田也承認分散部署是“不得不”的事情。
他繼續說：“所幸目前大股匪團已分崩離析，甚少具有集體威力，即使以小部隊進行討伐，也無任何危險，這正是積極討伐的大好時機。”對形勢的錯誤判斷，使日軍麵臨滅頂之災而尚無知覺。
平田遼給各個參謀長打氣：“目前的情況，匪團已經分散隱蔽，而致力於巧妙地擴大地下組織，企圖進行頑強的抗戰。對此，我之最大的弱點，不在於兵力之不足，而是在於很難及時獲得可靠的情報。”平田避重就輕，將日軍華北治安最大的問題——兵力不足的矛盾一筆帶過，轉而去談情報問題。
平田心裏很清楚，戰線過長、後方空虛的弱點很有可能被八路軍加以利用，遲早要出事。
彭德懷對日軍點線占領及兵力不足與分散的弱點，看得很清楚。他26日得到報告，日軍有千人左右從石家莊逐漸向西增援。29日，他又得到消息，日軍在榆次、蘆家莊兩地共集結了2500多人，其中一部約700人於28日進抵試航，塔摩寺、陽泉的日軍1000多人己占領獅堖山，由石家莊方向西進的日軍已增至2000多人，估計敵人企圖東西夾擊八路軍於正大路沿線，驅逐八路軍離開正太路。