2�[�K�蔣介石在徐州與日軍決戰的打算，早在台兒莊會戰之前就已表露。他親臨徐州督戰時就對白崇禧等人說：“徐州是這次會戰的核心。徐州位於黃淮之間，地界魯、豫、皖、蘇四省之交，為南北之通津，中原之屏障。在中國曆史上，徐州之得失，有關國家之興替。”
何應欽附和說：“委員長的指示極為重要，十分英明。徐州，曆來是兵家必爭之地，南守可略豫、魯，北守可瞰淮河，不可輕易放棄。”
“我們一定要死守徐州!”林蔚也跟著隨聲附和。
劉斐認為徐州應該守，但最終必然守不住。考慮到自己僅是個作戰組長，不便公開與蔣介石“較勁”，隻好用眼睛盯著素有“小諸葛”之稱的白崇禧，盼望他拿個好主意。白崇禧懂得劉斐眼光的意思，但也不好正麵反對蔣介石的意見。他打了個迂回：“這次敵軍的第十師團和第五師團進襲魯南，氣焰十分凶狂呀!”
不等白崇禧說完，蔣介石就說：“凶狂怕什麼？我們可以增調兵力。徐州必須死守，因為在徐州決戰，可以爭取時間，保衛武漢。徐州守得越久，我們爭取的時間就越多，就可以把保衛武漢的準備工作做得好一點。”
“委員長的遠見，令人佩服之至!”何應欽又發出了讚美之聲。
白崇禧見蔣介石決心已下，不好再說什麼了。
台兒莊勝利後，蔣介石等人盲目樂觀的情緒更為膨脹。
但身為第五戰區最高長官的李宗仁，對形勢的判斷並不樂觀。他深知，徐州四周為平原地帶，無險可守，日軍是機械化部隊，又多有空軍助戰，在此處打起來，中國軍隊要吃大虧。他認為：“我方在徐州一帶平原，聚集大軍數十萬人，正是敵方機械化部隊和空軍的最好對象。”
李宗仁從持久消耗戰的戰略思想出發，認為在徐州同日軍作陣地相持的消耗戰是愚蠢的。他指出：“以中國軍隊的裝備，隻可相機利用地形條件，與敵人作運動戰。”他為避免重蹈京滬戰場的覆轍，提出撤離徐州的意見，而軍事委員會中的不少人卻陶醉於台兒莊的勝利中。李宗仁在自己的意見遭到否定之後，便立即部署徐州會戰。
但是，當日軍在台兒莊附近戰敗，分由台棗鐵路支線和台棗公路突圍向北退卻時，因湯恩伯軍團行動不堅決，其追擊部隊被日軍掩護部隊所阻擊，致使日軍終於安全退卻。孫連仲部在正麵的追擊所獲戰果也不大。日軍退到嶧縣、棗莊地區後，即在獐山、天柱山、黃山、嶧縣以東地區之線，重新組織抵抗，固守待援。
孫連仲集團軍，除池峰城第三十一師及吳鵬舉獨立第四十四旅留在台兒莊附近整頓外，主力被阻於獐山東西之線。湯恩伯軍團向嶧縣的日軍圍攻多日也沒有攻下，便借口孫連仲集團軍正麵受到獐山附近日軍炮兵的側射，致使進攻受到影響，於是變更部署，改由嶧縣東北地區向日軍側後實行包圍攻擊，又被日軍由稅郭附近的反攻所阻止。湯恩伯軍團又改由稅郭東北包圍，於是形成延翼對峙的局麵，使日軍爭取到了坐待援兵的時間。
到４月初，日軍再由青島方麵增援，對臨沂實行第三次攻擊，戰區又派李仙洲的第九十二軍向臨沂增援。但李仙洲軍還沒到達，臨沂已於４月20日失守。原來竄到朱陣固守的一股日軍，乘機向湯恩伯軍團的側背向城方麵進犯，湯恩伯軍團和孫連仲集團軍從４月上旬圍攻敗退到嶧縣的日軍以來，已經有兩星期之久，隻因攻擊企圖不旺盛，沒有乘日軍立足未穩、增援沒到時，全力猛攻克敵，演成對峙狀態。這時進出向城的日軍雖為數不多，但湯恩伯頓時感到側背受到威脅，便放棄對嶧縣稅郭東北地區的圍攻，將右翼部隊轉移到向城東南，重新調整部署，與日軍形成對峙，互為延翼競賽。
在台兒莊勝利後，劉斐估計日軍一定不會甘心失敗，必將增援反攻。他回到武漢後，經常同李宗仁通電話聯係，提請他注意。劉斐還對李宗仁說，如果湯恩伯軍團不能乘日軍援軍未到以前一舉將敗退嶧棗地區的日軍殲滅，就應該及時調整部署，集結強有力的部隊於適當地點，確保主動，準備以機動靈活的部署，再相機打擊日軍。
但是，劉斐的提醒沒有引起李宗仁足夠的重視，李宗仁甚至把增援到來的部隊都投入第一線。到了這時，大約是４月20日前後，日軍南北增兵，大舉再犯徐州的企圖日見明顯，而湯恩伯軍團遷延攻擊時日，已經隻有招架之功，毫無還手之力。臨沂的日軍又有向西與鐵路正麵日軍會師的可能，這時劉斐提出他的主張：對魯南作戰應改為機動防禦，除以一部分軍隊和日軍保待接觸外，主力應集結於機動有利的地位，再相機打擊日軍；一麵於運河線布防，控製強大的預備兵團在徐州以西，使之能夠及時應付各方麵的情況，以免陷於被動地位。
這時，李宗仁很想從既有的陣地線上取勝。蔣介石勉強同意劉斐以上的意見，采納了機動防禦及運動戰製敵的方針。但在具體部署兵力方麵，仍不肯放棄任何地點，而對第一線要求作持久防禦部署。臨沂方麵，命令張自忠指揮李仙洲軍在臨沂東南地區牽製這方麵的日軍；龐炳勳軍團則調到郯城地區整補，並掩護隴海鐵路東段的安全；孫連仲集團軍的主力附張軫的第一一零師，和周喦的第七十五軍，在北麵的高皇廟一線占領縱深據點陣地，持久抵抗日軍；在南洛和北洛附近控置有力的預備隊，並有一部加強台兒莊附近的陣地；以於學忠的第五十一軍在孫連仲集團軍的右方占領縱深據點陣地，實行持久抵抗，以一部占領蘭陵鎮一帶監視向城方麵的日軍，並控置強有力的預備隊；孫震的第二十二集團軍則在韓莊南方擔任運河守備；湯恩伯軍團控置在四戶鎮和大小良壁地區整補，作為機動的打擊兵團；盧漢的第六十軍在台兒莊南側集結；樊崧甫的第四十六軍以一個師控置在徐州市，其餘主力兩個師集結於賈汪和利國驛附近；戰區的總預備隊計有五個師以上，其中包括李延年的第二軍，控置於碭山、商丘和蘭封一帶，並以一部位置於豐縣，以便於對付山東西部的日軍。
劉斐當時總的作戰構思，是估計日軍一定會反攻，為了確保中國軍隊的主動地位，在山東南部應有強大的機動兵團爭取在日軍運動中予以打擊，並固守運河線。戰區應以強大的預備兵團部署在徐州以西，以便應付山東西部和安徽北部的情況。對於第一線的兵力，在敵情沒有確實明了以前，隻須以一定兵力保持接觸。當時，劉斐為了遷就蔣介石的意見，對機動兵力和總預備的兵力部署不足，對第一線兵力卻部署過多。
劉斐的想法是：要有強大的機動兵力打破日軍的攻擊，才可避免日軍打通津浦路。控製強大的總預備隊於徐州以西，則一方麵可對付日軍從山東西部或安徽北部的迂回，另一方麵縱使日軍打通了津浦鐵路，中國軍隊仍可由側麵截擊它，使日軍不能安全利用津浦鐵路。
上麵這個計劃，是4月21日以蔣介石的名義命令戰區執行的。命令下達以後，劉斐天天追問戰區執行的情況，主要是問李宗仁已將預備隊和機動兵團抽調出來沒有。可是，第五戰區不僅沒有抽調出機動部隊來，而且把所有的部隊都投到第一線或緊接第一線與日軍作延翼競賽。戰線西起微山湖，經白山、獐山、嶧縣南側、蘭陵鎮、向城東南，到沂河東岸碼頭鎮、郯城之線。第一線正麵綿亙三百多裏，投入兵力四十多萬，一般都擺在運河以北地區。當時在山東南部的部隊有：湯恩伯第十三軍，譚道源第二十二軍，田鎮南第三十軍，龐炳勳第四十軍，馮安邦第四十二軍，樊崧甫第四十六軍，於學忠第五十一軍，關麟征第五十二軍，張自忠第五十九軍，盧漢第六十軍，許紹宗第六十七軍，周喦第七十五軍，王仲廉第八十五軍，李仙洲第九十二軍，以及李延年第二軍等。在山東西部有：孫桐萱第十二軍，曹福林第五十五軍，以及商震第三十二軍等部。在韓莊南側有殘破的孫震第四十一軍和鄧錫侯第四十五軍。在徐州的有周祖晃第七軍的一部，以及其他特種兵和直屬部隊等。
劉斐提醒李宗仁：日軍以少數兵力妄想對中國軍隊作球心包圍是枉然的。但中國軍隊處於內線作戰地位，若不集中有力的機動部隊，在利害轉換線以前相機各個擊破分進合擊的日軍，也是危險的。劉斐要求李宗仁在第一線隻擺一個掩護幕，在後方控製強大機動兵團，才能確保主動。李宗仁沒有照辦。在４月20日左右，當劉斐提出機動防禦的意見時，本想把主陣地帶主動調整到運河之線，在主陣地線北方隻構成一個搜索幕，機動部隊則控製在運河以南及徐州以西地區。因為蔣介石不肯放棄原來相持之線，就成為4月21日指示所形成的折衷方案。
中日兩國軍隊經過互相尋求對方側背作延翼競賽的結果，中國軍隊前線多數兵力投入了第一線。這時，蘇北的日軍已攻陷高郵和寶應，進逼淮陰，並以一部從鹽城和阜寧向海州推進，轉向新安鎮方麵與郯城南下的日軍會合，企圖向邳縣西進，對徐州實行戰場包圍。到５月上旬，日軍又采取從徐州遠後方實行戰略迂回的計劃，北麵從濟寧方麵增加兵力向金鄉和魚台推進，並以土肥原第十四師團渡黃河菏澤方麵南下。在南麵，日軍從懷遠方麵增加兵力，以一股進陷蒙城，向永城疾進，企圖以南北鉗形迂回在徐州以西截斷隴海路，徹底包圍徐州以東魯南地區的中國軍隊。這時，日軍先後增援到達的部隊已有十萬以上。在戰場出現的番號：在北麵，除磯穀第十師團、板垣第五師團外，已發現有土肥原第十四師團、藤江惠輔第十六師團及山下、酒井等兵團；在南麵，蘇北淮河地區除原有日軍藤田進第三師團和吉住良輔第九師團外，也增加了幾個預備役師團的番號，其中有伊東正喜第一○一師團、稻葉四郎第六師團和荻洲立兵第十三師團。顯然，這時中國軍隊投在魯南地區的十多個軍的大兵團，如果不迅速采取反包圍或脫出包圍圈的措施，就有在徐州地區被全部殲滅的危險。
４月21日改取機動防禦調整部署的命令，第五戰區司令長官部不僅沒有執行，還把應該控製的樊崧甫軍投入碼頭鎮地區陷於苦戰。湯恩伯軍團也不僅沒有集結，還一直在邳縣以北地區逐漸陷入陣地戰狀態。到５月10日，蘇北的日軍已到達隴海東段新安鎮附近，與從郯城南下的日軍會師，並積極向邳縣進出，企圖由徐州東麵中國軍隊右側背實行戰場包圍。這時候，湯恩伯還不知死活，竟向蔣介石建議，準備以六個師的兵力對郯城南下的日軍實行攻擊。這自然是一個自投羅網的冒險計劃，說明湯恩伯是既不知己、又不知彼。
蔣介石這時沒有接受湯恩伯的建議，而同意劉斐等人主張的采取反包圍或脫出包圍圈的意見。5月10日作出的情況判斷是：日軍向徐州采取包圍運動中，中國軍隊應乘日軍兵力分離且離開據點的好機會予以各個擊破。第五戰區應對山東南部殘餘的日軍暫時采取戰略守勢，以優勢兵力先行擊滅超越淮河的日軍。第一戰區（平漢鐵路及隴海鐵路中段屬第一戰區範圍）應集中新銳兵團擊破侵入山東西部的日軍。這基本上是一個積極對日軍采取反包圍的決定，而沒有打算迅速脫出包圍圈，是劉斐感到不夠徹底的地方。他始終不看好國民黨軍隊的作戰能力。如果當時的部隊在戰鬥和戰術能力上果然能夠完成戰略所賦予的任務，則日軍在台兒莊附近時也好，在嶧縣和棗莊地區時也好，都有可能遭到徹底殲滅，何至於使日軍安全退卻或固守待援呢？
現在各部隊經過幾十天的戰鬥，死傷相當大，雖然人數上還有相當大的優勢，但就戰鬥力而言，劉斐很懷疑能否達成反包圍的任務。何況，根據５月10日的情況判斷所製定的具體措施，基本上隻合乎劉斐在４月21日時的方案。當時由於蔣介石的堅持，劉斐也沒有辦法。
根據５月10日的情況判斷，蔣介石於11日命令第五戰區：魯南兵團應即抽調有力一部集結徐州備轉用；其餘除以一部在現地警戒外，適時變換陣地至運河之線以節約兵力。同時將各指揮係統和部署
酌為變更。當時決定抽調湯恩伯軍團及歸湯恩伯指揮的第二軍和一個炮兵團集結徐州，以後由湯恩伯率領到徐州以西的孤山集，轉為隴海兵團，負責擊退由淮北北犯的日軍。其餘在山東南部的各部隊，除已喪失戰鬥力的單位抽往歸德（商丘）地區整補外，全部歸孫連仲統一指揮，在運河一線縮短防線固守，稱為魯南兵團。在山東西部，由第一戰區以俞濟時七十四軍、黃傑第八軍、李漢魂第六十四軍等部編為魯西攻勢兵團，由薛嶽指揮，尋找該方麵的日軍主力加以擊破。原在山東西部的部隊由孫桐萱和商震指揮，遲滯該方麵南下日軍的前進，以掩護薛嶽魯西兵團的集中和展開。
這時，蔣介石對於第五戰區司令長官部在作戰指導上和統帥部之間的分歧頗為擔心。大約是５月12日下午，蔣介石要求軍令部次長林蔚和第一廳廳長劉斐立即趕到機場，和他一起飛往鄭州。他們在飛機上對當時的情況進行討論。蔣介石承認，徐州的狀況正處在危險關頭，他很擔心５月11日的作戰指示是否能得到貫徹執行。他們又進一步討論，即使貫徹11日的指示，魯南兵團在運河線的防守，能否保持到魯西兵團和隴海兵團反包圍作戰的勝利，也還是問題。劉斐當時舉了個例子：江蘇北部的日軍用在第一線的不過三千來人，淮北的日軍也不過五千來人，竟然長驅直進，如入無人之境，那麼隴海兵團能否迅速擊破淮北的日軍，再轉移兵力支援魯南兵團作戰，也是個問題，希望蔣介石作下一步的考慮。
飛機到達鄭州，已近黃昏，他們休息了一會，蔣介石馬上找林蔚和劉斐談話，表示他對徐州的情況很擔心，深怕李宗仁不馬上執行５月11日的命令，則徐州後方聯絡線將被截斷，以後就更不好辦了。末了，蔣介石很鄭重地說：“我再三考慮，隻有我自己親自去徐州跑一趟，要李德鄰趕快行動才好。你們看怎麼樣？”
劉斐估計，蔣介石的本意是自己不想去，否則，他領著大家一道去就是了，何必再問？於是，劉斐說道：“委員長親自去未免太冒險，由我們去傳達委員長的意旨就行了。”
林蔚也跟著說：“隻要我們去就行了。”
蔣介石馬上說：“你們兩人去也好。你們去同德鄰說，這個是敵人的大包圍，不趕快想辦法的話，幾十萬大軍會丟掉的。你們還要同各級將領講明白，要他們貫徹統帥部的命令。隻要大家齊心，首先各個擊破淮北、魯西方麵的敵人，再對魯南轉移攻勢，勝利是有把握的，有把握的。”他還說：“我已經叫他們準備了一列專車，那，你們馬上就去。你們一路上也要當心。我馬上通知沿途各站將領，要他們到車站來向你們報告情況。”
當林蔚和劉斐乘坐的專車經過歸德時，已是子夜，俞濟時上車來報告敵情，說：“敵已離鐵道線很近，拂曉前後很可能截斷鐵路，那你們這次車，就是隴海路上最後一次通車了。”當林蔚和劉斐到達徐州時，徐州西北方向日軍的炮聲不絕於耳。他們到第五戰區長官部時，東方剛呈現出魚肚白，長官部的人還沒有起床。他們見到李宗仁，立即把蔣介石要他們趕來的原因告訴他，並問他接到了５月11日的命令沒有。李宗仁說已經接到，並表示準備向下傳達。劉斐又提起對４月21日指示抽調機動兵力的問題，埋怨他們沒有早日行動，以致現在感到很狼狽。李宗仁說：“部隊拉上去了，這麼容易能抽下來？”林蔚和劉斐再三強調，目前情況非常嚴重，應該立即采取對策。長官部的幕僚們也陸續來報告了當時的情況，並提供執行轉移陣地指示時的具體部署。隨即安排他們先去休息。
等到林蔚和劉斐睡了一會起來時，得到確實情報，證明碭山東麵的黃口車站已被日軍一支裝甲部隊占領。這樣，第五戰區後方唯一的交通大動脈被截斷了，徐州已處在日軍包圍之中。李宗仁也感到事態緊急，立即通知各集團軍總司令和有關的軍長到台兒莊集合，由林蔚和劉斐立即趕到台兒莊傳達蔣介石關於調整部署的決定。當時決定：魯南地區的新陣地線為右起窯灣和貓兒窩，沿運河南岸到韓莊之線，各部隊相機轉於新位置，逐步加強工事固守，但對邳縣城、灘上鎮、加口圩、禹王山和台兒莊等各前進陣地不可過早放棄；抽調李延年的第二軍及湯恩伯軍團炮兵第四團及一部分山炮和重炮連，即日到徐州集結待命，然後由湯恩伯指揮，首先擊破從淮北向徐州西側進犯的日軍；留置山東南部的各部隊直接歸孫連仲指揮。
接著，李宗仁以司令長官的名義，宣布孫連仲和於學忠分別為魯南兵團的總指揮官和副指揮官，湯恩伯和劉汝明分別為隴海兵團的總指揮官和副指揮官，韓德勤為蘇北兵團總指揮官，廖磊為淮北兵團總指揮官，李品仙為淮南兵團總指揮官。李宗仁並對主要指揮官指示，如隴海路有被截斷可能時，魯南兵團在隴海兵團與淮北兵團掩護下由永城、蒙城間向太和、亳州轉進。
魯南兵團根據指示，即依次以樊崧甫第四十六軍、商震第三十二軍、盧漢第六十軍、於學忠第五十一軍、周喦第七十五軍、孫震第二十二集團軍（附第一三二師）等，守備從右起窯灣、左至韓莊沿運河線的陣地，另以第二十七師師長指揮的兩個師為兵團預備隊，位置於卞塘和毛寺附近。湯恩伯於部署留置部隊交魯南兵團統一指揮後，即於15日經徐州赴孤山集指揮隴海兵團對付日軍。
自５月13日日軍裝甲部隊一部竄至隴海鐵路的黃口車站將李莊鐵橋破壞以來，由淮河北進至蒙城的日軍繼續北竄永城，山東西部南下的日軍分途攻陷豐縣、沛縣和碭山。沛縣的日軍又向徐州南進，對孫連仲部在九裏山一帶的掩護陣地猛攻，占領了楚王山，並猛攻徐州西麵的馬山陣地。
前方越來越慘烈的戰報，不斷傳到武昌軍事委員會蔣介石的案前。徐州突然麵臨的嚴重危機，使蔣介石意識到：日軍的意圖是要圍殲徐州中國軍隊主力。如果徐州那五十個精銳師被日軍吃掉，我還抗什麼戰？
蔣介石立即叫來何應欽、白崇禧、陳誠等人一塊研究對策。日軍的企圖已經暴露，再死守徐州已不現實，何應欽等人也主張趕緊突圍，決定放棄徐州。
蔣介石給李宗仁發來十萬火急的電令：
第五戰區司令長官李宗仁：
軍委會著令你部力避決戰，撤離徐州，火速突圍。
一、顧祝同第二十四集團軍在蘇北，第六十九軍及海軍陸戰隊在魯中南原地堅持抗戰。