日軍第二軍司令官西尾壽造於3月上旬通過華北方麵軍向大本營申請“追剿眼前之敵，絕不是深入南進作戰，為警備後方希望增加兵力”。得到日本大本營批準後，於3月8日向第十師團作了傳達。
1938年2月13日，第二軍正式命令第十師團消滅大運河以北之中國軍隊，第五師團以一部占領臨沂後進入嶧縣附近配合第十師團作戰。其企圖是，“在達到以上目的後，大致在滕縣、沂州一線，給以後作戰作好準備”。
滕縣和臨沂均為魯南要地，是日軍由山東北部進到運河沿線必經之地，津浦鐵路線上的韓莊和臨棗支線上的台兒莊緊臨運河北岸。日軍欲進占運河以北地區，必須首先攻占滕縣和臨沂，而後進占韓莊至台兒莊一線。
板垣、磯穀兩師團，是日軍精銳之師，此次進攻，來勢相當凶猛，大有一舉圍殲中國軍隊之勢。日軍以五六萬兵力，在華北方麵第二軍指揮下，分兩路向台兒莊進發。一路為板垣第5師團，沿膠濟路西進，進逼臨沂；一路為磯穀的第10師團，該師團沿津浦路南下，直取台兒莊。日軍第二軍按計劃實施的進攻，直接導致了滕縣及臨沂戰鬥，從而展開了魯南地區的台兒莊戰役。
1938年2月21日，李宗仁電報蔣介石、何應欽、徐永昌，關於頒發作戰命令如下：“臨城、嶧縣、韓莊間之敵約步兵三聯隊、騎兵一聯隊、炮兵一聯隊、坦克車五六十輛，自14日以來在界河、滕縣、南沙河及臨棗各地與我鄧集團（第22集團軍）及王軍作戰。
現分部南進，已達韓莊及嶧縣附近，其主力似尚在臨城。戰區以收複魯中廣大地域之目的，以一部在運河之線取攻勢防禦姿勢，以主力由嶧縣東南方及東北方山地側擊南下之敵，聚殲於臨棗支路與韓莊運河間地區。”這是日軍瀨穀支隊占領滕縣、臨城後進占韓莊和嶧縣附近時。
第五戰區所發的作戰命令中有關作戰目的和計劃的主要內容。這裏明確決定作戰目的是“收複魯中廣大地域；計劃采取一部”以“攻勢防禦”主力“側擊南下之敵”，將敵人消滅在“臨棗支路與韓莊運河間地區”。按照以上作戰目的與計劃，戰區命令湯恩伯第二十軍團集中主力於嶧縣東側及棗莊東北方山地，擊破嶧縣之敵，向臨城、沙溝兩地附近側擊，“壓迫敵於微山湖東岸而殲滅之”。一部集結於台兒莊北方地區，準備協助對嶧縣及其西北地區之主力作戰。命令孫連仲第二集團軍以一部在侯新閘以西運河南岸防禦，待機渡河北進，主力控製於賈汪附近及荊山、茅村鎮間。張自忠第五十九軍在費縣集結整頓後，乘虛向滕縣南北地區與由南陽鎮附近河之第三集團軍部隊呼應，截擊南下或北退之敵，對泗水方麵自行警戒。孫桐萱第三集團軍應超越濟寧南北地區，再向袞州、鄒縣間及界河、官橋間與張自忠第五十九軍及臨城以南之攻擊部隊呼應，襲擊敵之側背，並阻止敵增援或截敵歸路。命令龐炳勳第三軍團迅速掃蕩湯頭附近之敵，以一部向莒縣方麵追擊，主力集結於湯頭附近布防，對沂水、蒙陰方麵自行警戒。
1月下旬，日軍東路第5師團從山東濰縣南下，連陷沂水、莒縣、日照，直撲臨沂。