七七事變後，日本帝國主義為實現其速戰速決的戰略企圖，迅速從日本國內、駐朝鮮的部隊和關東軍抽調兵力增至平、津地區，日軍華北方麵軍和關東軍察哈爾兵團在華北的兵力驟增到37萬。戰火立刻蔓延到整個華北。
1937年8月，日軍以北平（今北京）、天津地區為出發地，兵分3路發起進攻。第一路以一個半師團的兵力沿津浦路向南進犯；第二路以一個師團的兵力沿平漢路南犯，進窺河南；第三路以3個師團的兵力沿平綏路東段、同蒲路北段向西進犯。第三路為日軍主攻方向，其西進的企圖是由晉北打開通路，殲滅國民黨第二戰區主力，攻占太原，以大迂回的動作，迫使國民黨的軍隊撤退，達到不戰而占領華北五省的目的。
為了實施這一企圖，西進的日軍又兵分兩路向太原方向推進：一路由關東軍察哈爾派遣兵團和兩個獨立混成旅團沿同蒲鐵路南進，經雁門關直取太原；一路由日軍第五師團向渾源、靈丘進攻，企圖突破平型關與沿同蒲鐵路南進之敵會師雁門關。
雁門關、平型關是國民黨軍長城防線的兩道關口，也是日軍進攻太原的必經之地。日軍一旦攻取兩關，即可長驅直入，兵臨太原城下，太原唾手可得。由於雁門關地勢比平型關更為險要，又有重兵把守，難以從正麵奪取，而平型關地處山西和河北交界的地方，是個比較薄弱的環節。因此，日軍將其主力第五師團用於平型關方向，企圖由平型關一舉突破長城防線，取下代縣，卡斷雁門關後路，從背後攻取雁門關，然後與雁門關正麵的日軍合兵一處，直撲太原。
進犯平型關的日軍是其陸軍中的“王牌”——第五師團。它編成於明治21年，是日軍部隊中曆史最長的師團之一，曾參加過第一次中日戰爭和日俄戰爭，為日本帝國主義的對外擴張立下了“戰功”。它的指揮官板垣征四郎是有名的中國通，“九一八”事變時他在關東軍當參謀，當時的軍銜是大佐。“九一八”事變之後，日本在東北組織偽滿洲國，板垣征四郎作為關東軍的代表同溥儀進行了談判。正是因為他組織傀儡政權有功，所以在盧溝橋事變爆發之前，就已升任為中將師團長了。
作為“王牌”師團，日軍第五師團的兵力構成十分了得。其轄步兵2旅團，每旅團轄步兵2聯隊，每聯隊配備三八式步槍2124支、輕機槍72挺、擲彈筒75個、重機槍24挺、大炮6門。每聯隊轄步兵3個大隊，每大隊配備三八式步槍686支、輕機槍24挺、擲彈筒25個、重機槍8挺、炮2門。每大隊轄4個中隊，每中隊轄3個小隊，每中隊配備三八式步槍、輕機槍6挺、擲彈筒2支。此外，每聯隊還配屬聯隊炮兵中隊1個，配備山炮4門，速射炮中隊1個，配備37毫米炮4門。每師團轄騎兵聯隊1個，每聯隊轄騎兵2個中隊，每中隊配備馬槍123支，輕機槍小隊1個，配備輕機槍2挺。野炮或山炮聯隊1個，每聯隊轄炮兵4個大隊，裝備野炮36門（每大隊12門）、山炮12門、三八式馬槍315支。工兵聯隊1個，轄工兵3個中隊，配備三八式步槍200支。輜重聯隊1個，轄輜重6個中隊另1個馬隊，配備三八式馬槍329支。全師兵員如係馱馬裝備的師團為2．82萬人，挽馬裝備的師團為2．44萬人。
第五師團每次出動作戰，均配屬1個戰車大隊，該大隊轄戰車3個中隊，大隊裝備輕戰車39輛，裝備17毫米戰車炮39門、輕機槍120挺、輕裝甲車21輛。
由上即可看出，日軍的武器配備確實強大。在板垣的帶領下，日軍第五師團繼攻取陽原、蔚縣、廣靈之後，又氣勢洶洶地殺往渾源、靈丘，直逼國民黨長城防線。9月16日，第5師團第二十一旅團以其第二十一聯隊主力由廣靈進占渾源縣城。同日，第五師團第九旅團主力由蔚縣南下，占領淶源。20日，第二十一旅團又以兩個大隊的兵力南下，占領了與平型關近在咫尺的靈丘。對日軍來說，攻占平型關已指日可待。平型關頓時陷入十分危急的境地。
平型關，古稱“瓶形關”，這個因關前穀地形狀如“瓶”而得名的雄關險隘，自古就是兵家必爭之地，曾經是漢武帝劉徹北擊匈奴、北宋楊家將抗遼守邊之所。它位於山西省靈丘縣西喬溝一帶，是古長城上的重要隘口。關口北麵是恒山山脈，南麵是有名的佛教聖地五台山。這裏層巒疊嶂，幽穀深邃，最險要的喬溝段長約7公裏，四周崖高數丈，陡峭如削，一條狹長山路蜿蜒其間，東通冀北，西抵雁門，是晉冀兩省的門戶。平型關如被攻占，日軍將迅速兵臨太原城下。