３月上旬，日軍第2集團軍得到兵力兵器的加強以後，命令第10師團向滕縣進攻，同時要求第5師團向臨沂、嶧縣推進，配合第10師團作戰。數天後，日軍第10師團以第33旅團為基礎組成的瀨穀支隊，從鄒縣以南地域沿津浦路南下，攻占界河，迂回到中國守軍第22集團軍的側背。
第22集團軍下轄第41、第45軍。1938年１月，孫震總司令率領部隊進至臨縣、滕縣。２月，第112師師長王銘章被任命為第41軍前方總指揮，率領第122師師部和第364旅旅部等部隊進駐滕縣。
王銘章1893年出生於四川省新都縣，1909年考入四川陸軍小學。1914年畢業於四川陸軍軍官學堂，入川軍第2師。此後，玉銘章相繼擔任排長、連長、營長、團長、旅長等職務，1925年任師長。王銘章滿腔愛國熱情，1937年9月率領部隊出四川抗戰前，曾經立下“誓以必死報國”的遺囑。
日軍進攻滕縣，王銘章師長臨危受命。第122師雖說是一個師，卻隻有2個旅，每個旅實際上隻有1個團的兵力。日軍不僅在數量上占有優勢，還裝備有山炮、野炮、重炮等多種特種兵器，武器裝備上的優勢更明顯。但是，王銘章師長對抗日滿懷信心，他曾坦率地說：“以川軍薄弱的兵力和武裝，擔當津浦路上保衛徐州第一線的重大任務，力量不夠是不言而喻的。我們身為軍人，犧牲原為天職，現在隻有犧牲一切以完成任務，雖不剩一兵一卒，亦無怨尤。不如此，則無以對國家，更不足以贖20年川軍內戰的罪愆了！”
北線西路日軍的進攻直接威脅到徐州的安全。當時，徐州空虛，援軍尚未調到。蔣介石得知上述敵情以後，即向第五戰區下達命令：
“41軍王銘章，務必死守滕縣3日，以待增援部隊鞏固徐州。”
第22集團軍孫震總司令根據第5戰區的意圖，命令王銘章師長：“值至第一線不能支持時，亦務必令41軍兩師死守。”
這兩道命令下達後，中國軍隊防守滕縣的各項準備工作更緊張了。
北線西路日軍南下如此迅速，是韓複榘放棄濟南造成的惡果。李宗仁為了阻止北線西路日軍的進攻，確保徐州地區的安全，曾於２月10日命令第3集團軍總司令孫桐萱指揮所屬部隊向運河以東推進，襲取濟寧。
這是一場驚心動魄的戰鬥。孫桐萱原來是韓複榘的部屬，韓複榘接連放棄濟南、泰安、大漢口、濟寧等地，數天之內，山東大片領土被日軍占領，他感到憤慨。根據李宗仁的作戰部署，孫桐萱指揮第22師強渡大運河，攻入濟寧城，與日軍在濟寧城內展開了激烈的奮戰。但是，由於日軍及時得到增援，第22師遭到重大傷亡，被迫於2月17日晚撤退到運河西岸。中國軍隊未能奪回濟寧，日軍的侵略野心更加狂妄。19日，日軍攻陷安居鎮。22日至24日，相繼猛攻第55軍和第12軍防守的陣地。25日，占領杏花村陣地。連日作戰，第3集團軍雖然殲滅日軍1000多人，但未能實現奪回濟寧的意圖，部隊傷亡3000多人，磯穀廉介指揮的部隊不斷向南推進，兵臨滕縣城下。
3月14日，日軍進攻滕縣，一場悲壯的滕縣保衛戰，拉開了台兒莊戰役的大幕。
從戰略態勢看，進攻滕縣的日軍是一路孤軍。
日軍參謀本部在籌劃津浦路北段日軍的作戰行動時，考慮到戰線長、兵力少的困境，確定濟寧、鄒縣、蒙陰為指令線，第5、第10師團的前期行動不得超越這條指令線。但是，第5、第10師團的官兵一向視自己為日軍的精銳，一些少壯派驕矜自負，竭力主張向南推進，一鼓作氣攻下徐州。特別是第10師團占領濟寧、鄒縣一線以後，磯穀廉介中將急不可待，多次向第2軍指揮部請求南進。2月，懶穀支隊向運河以西進攻，占領嘉祥以後，日軍的侵略野心進一步膨脹。
3月上旬，阪垣征四郎和磯穀廉介兩名中將通過方麵軍再次向日軍大本營請求率部南下，攻占徐州。日軍大本營批準了他們的請求，但同時指出，由於華北方麵軍正在進行晉南戰役，山東戰場不可能再增加部隊，徐州會戰的準備工作沒有完全就緒。第5、第10師團南下作戰，兵力不能分散，位置不宜突出，進攻正麵不要太寬，部隊前進時不要太遠。為了防止發生不測情況，日軍大本營把作戰區域限製在京杭大運河以東、以北地區。日軍華北方麵軍指揮部根據大本營的意圖，也提出了第5、第10師團不可突出冒進的措施，方麵軍司令官寺內壽一大將特別指出，部隊進至滕縣、嶧縣、臨沂一線以後，轉而取守勢，為爾後作戰做好準備。
從戰爭指導上看，上述意圖是符合戰場情況的。徐州會戰終究是一場80多萬大軍互相搏殺的大會戰，沒有充分準備，就可能遭到不測。但是，阪垣征四郎中將和磯穀廉介中將侵略中國的野心惡性膨脹，自持武器裝備上的優勢，輕視中國軍隊的戰鬥力。特別是第10師團占領濟寧以後，繼續南下，取得了局部勝利，第一次冒險成功。他們的行動雖然受到了日軍大本營的節製，但一時的局部的勝利使一些日軍將領失去了理智，他們不顧一切，孤軍深入，急於向徐州挺進。
進攻滕縣的日軍，由第10師團第33旅團獺穀啟少將指揮，共有兵力約1.5萬人。主要部隊是：第33旅團所屬第10、第63聯隊；野炮兵第10聯隊（缺１個大隊，２個中隊）；野戰重炮兵第２聯隊（缺2個大隊）；中國駐屯軍炮兵聯隊第3大隊；獨立機槍第10大隊；獨立輕裝甲車第10、第12中隊；臨時野炮兵中隊；臨時山炮兵中隊；工兵第10聯隊第1中隊；兵站汽車第15中隊。