平型關，是古長城的一處關隘。關北為恒山餘脈，南接五台山，附近山勢險峻，峰巒比肩聯袂，溪穀渾邃，陰森幽靜，一條狹穀山路，東通冀北，西抵雁門，地勢極為險要，曆來為兵家所必爭。平型關口至靈丘縣東河南鎮長約13公裏的地段，崖高數丈，陡峭如削，崖頂平緩，雜草叢生，兩側高地便於隱蔽部署兵力，便於發揚火力與展開突擊，是伏擊殲敵的好戰場。聶榮臻看著地圖，說：“這裏當然可以打一仗。居高臨下伏擊敵人，這是很便宜的事。”
林彪說：“戰場是一個好戰場，現在還難以判定日軍是否上鉤！”
聶榮臻說：“這是我們八路軍同日本侵略軍的第一次較量，全國人民都在看著我們，不論怎麼說，我們都必須打好，必須打出八路軍的威風來。”
一會兒，聶榮臻又說：“適當時候，可以請在太原的恩來同誌向閻錫山轉達我們的作戰行動。”
聶榮臻建議召開全師幹部會議，早作臨戰動員。
動員大會上，林彪首先發表了講話，他說：“日軍進展很快，但驕橫，疏於戒備。如果我師能利用平型關東北的有利地形出其不意，伏擊殲敵，就可以殺殺日本軍隊的威風，長八路軍的誌氣，長115師的誌氣。”
聶榮臻見大家情緒激昂，就簡單介紹了日本軍隊從靈丘西進的情況，特別強調說：“現在國內國外都有一種恐日病，認為日本軍隊所向無敵，不可戰勝，我就不信，我們紅軍將士過去能突破反動軍隊的重重圍困，今天也一定能打敗日本侵略軍，這一仗也可以說是政治仗，我們不僅要殲滅日本鬼子，還要打出中國人民抗日的信心。共產黨員就是要在這種時候發揮先鋒作用。”
會議一結束，八路軍第115師主力連夜趕往距平型關15餘公裏的冉莊、東長城村地域。師首長同時命令獨立團和騎兵營向靈丘、淶源方向活動，主要任務是擾亂日本軍隊的後方，一旦發現日軍向平型關增援，立即進行牽製和打擊，保障平型關戰鬥的勝利。
部隊宿營時，聶榮臻前往預定戰場察看地形。聶榮臻看到，這條由東北向西南伸展的狹窄溝道，地勢最險要的是中段，這一地段溝深數十丈不等，溝底隻能通過一輛汽車，幾乎沒有錯車的地方。南北溝岸又是比較平坦的山地，便於部隊埋伏。聶榮臻看後，心裏踏實多了。
9月24日，前方傳來斷斷續續的炮聲，敵人漸漸臨近了。中午，前沿部隊向師部報告，日本軍隊可能會在翌日大舉進攻。這天，林彪、聶榮臻抓緊時間，組織各級指揮員到預定伏擊地域進行現地察看。指戰員們看到，平型關東北關溝至東河南鎮道路兩側的高地，既便於部隊隱蔽，又有利於突擊，是打伏擊戰的好戰場，當即確定了攔截日軍先頭、切斷日軍退路、中間突擊分割，共同殲滅來犯日軍的部署。具體配置方案是：
第343旅所屬第686團占領小寨村至老爺廟以東的高地，主要任務是中間突擊；第685團占領老爺廟西南至關溝的高地，主要任務是截擊日軍的先頭部隊，協同第686團殲滅伏擊圈裏的日軍，並阻止東跑池方麵來援的日軍。
第344旅所屬第378團占領西溝村、蔡家峪、東河南鎮以南的高地，主要任務是切斷日軍的退路，阻止從靈丘、渾源方麵趕來支援的日軍；第688團為師預備隊。
4個團4支英雄的部隊像一張無形的網，任務明確，協同周密，等待日軍就範。
傍晚，聶榮臻和林彪收到閻錫山以第二戰區第6集團軍的名義送給第115師的“平型關出擊計劃”，這個計劃擬定以第71師附新編第2師及獨立第8旅1部，配合第115師向平型關以東之日軍出擊。
聶榮臻和林彪圍在一盞馬燈旁，攤開軍用地圖，又研究了一遍作戰方案。
深夜，林彪拿起電話，下達了第343旅進入白崖台一線伏擊陣地、第344旅隨後跟進的命令，要求部隊必須在25日拂曉前完成各項戰鬥準備。