新任日本陸軍大臣板垣征四郎當即向倭皇裕仁報告，強烈主張發動徐州戰役。他說道：“對於集中在徐州方麵的中**予以痛擊，可以收到挫傷敵軍抵抗意誌的巨大效果。因而，陸軍準備實施對徐州之敵的殲滅戰，由於這些軍隊都是國民政府軍的精銳主力，並且已經處於孤立的狀態。我大日本皇軍應不失時機，以強大的兵力，以宏大的戰鬥規模，使之一舉徹底殲滅這些中**。臣下認為，隻要達到了殲滅這股敵軍的戰略企圖，就能使武力解決中國問題變得簡單，就能促使蔣介石政權屈服投降，邁出決定性的一步，亦可挽回我大日本皇軍在台兒莊所造成的不良影響。”
板垣征四郎的話讓倭皇裕仁感到喜出望外，他也認為這是打擊蔣介石政權的大好時機。於是倭皇裕仁當即決定，圍殲徐州的中**隊。並要求板垣征四郎必須作到，陸軍此次進攻，一定要取得巨大的戰果，務必不使徐州地區50個師的中**隊一人漏網，一定要把他們全部的、幹淨的、徹底的全殲。用鐵一樣的事實來向國人證明，大日本皇軍是永遠不可戰勝的。
板垣征四郎回到陸軍部以後，決定為求速戰速決，不失這千栽難逢的好戰機，於當天向日本華北方麵軍司令多田俊大將，華中方麵軍司令田俊六大將，下達了大本營陸軍部第84號作戰命令，命令如下：1、大本營堅決要求擊破徐州之敵。2、華北方麵軍司令官應以有力之一部擊破敵軍防線，占據蘭封以東隴海線以北之地區。3、華中方麵軍司令官應以一部占領南津浦路及廬州地區板垣征四郎為確保徐州之戰的勝利，於2日後，派出了以陸軍部作戰科長橋本群少將等參謀們組成的“大本營派遣班”，前往徐州前線，對參戰部隊就地進行“戰術指導”。
侵華日軍華北方麵軍和華中方麵軍，集結了精銳部隊13個師團，大約有30萬人馬，配備了這種重武器，輔以戰機數百架，采取南北對進，側翼迂回的戰術，分成6路大軍向徐州包抄而來，企圖以速戰速決的手段圍殲中**隊主力於徐州地區。
日軍分南北兩大作戰兵團，向徐州地區掩殺而來。南路兵團為華中方麵軍所轄的第9、第13、第116、第106四個主力師團。北路軍團由華北方麵軍所轄的第5、第10、第14、第16、第110、第103、第104、第105等八個主力師團。南路日軍的指揮官為羽田源之助中將，北路日軍的指揮官為西尾壽造中將。另有日軍第4師團作為預備隊來使用，這次日軍對圍殲徐州地區的中**隊報以了極大的信心。
此時，蔣介石正一頭紮進擴大宣傳的熱浪中，沉浸在台兒莊大捷的興奮裏，對日軍即將展開的進攻還尚未十分了解。於是他對徐州地區的各部隊要求道：“各部隊要充分發揚台兒莊血戰的光榮精神，堅決的分頭阻擊來犯之敵，通過徐州會戰再給日軍部隊以重創。”李宗仁可不敢有絲毫的掉以輕心，他針對日軍的進攻態勢，把60萬大軍分成了5個作戰兵團。1、淮南兵團：指揮官為李品仙，下轄第20、第10、第48三個軍。2、淮北兵團：指揮官為廖磊，下轄第31、第7、第77、第68四個軍。3、魯南兵團：指揮官為孫連仲，下轄第30、第42、第51、第41、第44、第60、第22、第75九個軍。4、隴海兵團：指揮官為湯恩伯，下轄第57、第89、第69三個軍。5、戰區直屬軍團：指揮官為李宗仁，下轄第12、第55、第32三個軍。未編組之部隊皆為戰區預備隊，可隨時奉調開赴前線。
北路日軍首先發起了攻擊，孫連仲的兵團在峰縣、向城、郊縣等地抵抗日軍的進攻。緊接著，張自忠等部在臨沂、大埠、北勞溝等地也與日軍發生了激戰。北路日軍從濮陽分出一部，度過黃河天險後，進入魯西地區，迅速的攻占了鄆城、菏澤、金鄉等地。該地區雖有孫桐萱、龐炳勳、商震等部，但在廣闊的平原上，部隊無險可守，日軍得以快速的推進，如入無人之境一樣快速向徐州殺來。而南路日軍也開始北上了，他們先後占領了徐州南麵的龍元、蒙城、宿縣，並攻陷了徐州西麵的黃口車站，包圍並切斷了徐州西南麵的退路。至此，日軍已經對徐州完成了包圍的態勢，更多的日軍正從四麵八放朝徐州壓來。