李宗仁聽了，微微點頭，說：“是呀，勝仗可以鼓舞士氣，振作精神。南京失守了，我們要在徐州附近打一個勝仗。抗日戰爭，需要鼓舞民心士氣呀！”
李宗仁與劉斐對視一眼，說：“臨沂張自忠的部隊，打了勝仗。現在，磯穀廉介指揮的第10師團攻占滕縣，驕狂萬分，他們不會顧及左翼阪垣征四郎指揮的第5師團被阻止在臨沂，也不會等到南線日軍北上呼應，必然要孤立冒進，直撲台兒莊，搶一個津浦路作戰的頭功。”
血戰後的台兒莊一角這也是作戰廳長劉斐思考的主題。聽了李宗仁這幾句話，劉斐立刻說：“我們要發揮部隊裝備輕快的特點，發揮兵力對比上的絕對優勢，大膽實行機動靈活的運動戰，在日軍沒有對徐州形成合圍前，將其各個擊破。”
李宗仁忽然站住了，一句話也不說。李宗仁心裏明白，在抗日這一事關中華民族生死存亡的重大問題上，國民政府統帥部的意見不一致，有人主張持久防守，消耗日軍，有人主張打運動戰，各個擊破日軍。徐州會戰，他必須選擇一種能有效殲滅日軍，能打勝仗的戰法。
回到指揮部，李宗仁自言自語：這些鬼子，急於打通津浦路。他們急，我們就有戰機！
李宗仁詳細分析了日軍的企圖，進一步向部隊明確了作戰方針。這個作戰方針是：“固守台兒莊及運河一線，誘敵來犯，斷敵後路，相機實施反包圍，聚殲日軍。”
李宗仁在組織指揮第5戰區進行徐州會戰過程中，曾多次要求蔣介石增加兵力。蔣介石看到，加強第5戰區的防禦具有戰略意義，因此，他把正在河南進行補充訓練的湯恩伯指揮的第20軍團和孫連仲指揮的第2集團軍調往徐州戰場，把這兩支部隊用來守衛徐州的門戶台兒莊。為此，第5戰區對作戰部署進行了調整。李宗仁作出的新的作戰部署是：
孫連仲指揮的第2集團軍３個師，堅守台兒莊的正麵陣地。其中，第27、第30師在運河一線以及台兒莊以西布防；第31師用主力堅守台兒莊，以一部兵力配置於台兒莊東側和西側，支援台兒莊的核心陣地作戰。
湯恩伯指揮的第20軍團，部署於向城、洪山一線，阻擊北麵的日軍。其中，用２個軍向嶧縣、棗莊日軍的側背進行攻擊，配合孫連仲的部隊圍殲日軍；用一部分兵力擔任台兒莊到韓莊之間運河南岸的防務。
孫連仲接到命令以後，立即組織先遣人員前往徐州以北地區，選定指揮所；命令第31師師長池峰城率領部隊，迅速進駐台兒莊及其附近地區，掩護其他部隊進入預定地域。
台兒莊的東麵和西麵是三角形的山地，有利於組織防禦。有利的地形條件是良好戰場的重要標誌。
孫連仲根據台兒莊的地形特點和李宗仁明確的作戰任務，作出了以下部署：
集團軍總司令部設在距台兒莊城寨５公裏處。
第31師：第184團防守台兒莊城寨，這是防守台兒莊的核心陣地。台兒莊以西3.5公裏的範口村，台兒莊以東1.5公裏的官莊，是支撐台兒莊的兩個“角”，各派部分部隊防守，與台兒莊城寨互為掎角之勢，協同作戰。另一部分部隊沿大運河南岸設置防禦陣地。
第30師、第44旅：在台兒莊以南地區和賈汪東北地域集結。
3月22日，各部隊按照以上部署進入陣地。
孤軍冒進的日軍第10師團第33旅團瀨穀啟少將得知中國軍隊的防禦行動以後，開始感到了自己的不利處境。他看到，他們的前麵，孫連仲指揮的部隊２萬多人已經開始構築防禦工事；他們的後麵，湯恩伯指揮的部隊6萬多人已經占據有利地形；他們的左麵，第5師團的友鄰部隊進攻臨沂受挫，已經同他們失去了聯絡；尤其是他指揮的這支部隊隻有1.5萬人，在兵力數量上處於劣勢。但是，驕橫的日軍憑借精良的武器裝備，自認為戰鬥力處於上風，依然急於向台兒莊挺進。
3月23日，瀨穀啟少將明確了進攻台兒莊的作戰行動，主要是：
步兵第63聯隊第2大隊配屬野炮兵１個大隊，組成台兒莊派遣隊，向台兒莊進攻。這支派遣隊大約隻有2個營的兵力。
步兵第10聯隊第2大隊為主體，組成沂州支隊，向臨沂方向前進，策應臨沂方向的阪本支隊作戰。這支部隊大約隻有1個營的兵力。
步兵第63聯隊第1大隊在韓莊等地擔任守備，主要任務是擔任右翼的警戒，保障台兒莊派遣隊的右翼安全。
旅團司令部及其餘部隊駐紮在嶧縣附近。這部分日軍大約有３個營的兵力。
3月24日，就是蔣介石到徐州視察的時候，日軍分兩路開始對台兒莊的攻擊行動。
沂州支隊東進至郭裏集，就受到湯恩伯指揮部隊的阻擊。1個營的步兵如何能突破數萬部隊設置的防線？
台兒莊派遣隊數千名鬼子在空軍配合下，向台兒莊陣地發起攻擊。攻擊開始後，日軍不斷增加兵力，一會兒用重炮轟擊，一會兒用坦克衝擊，大有一舉突破台兒莊陣地的囂張氣焰。
孫連仲總司令深知台兒莊防禦戰是一場惡戰。戰鬥前夕，孫連仲親赴前線，指揮部隊抗擊日寇。他對官兵們說：麵對強大的敵人，我們隻能依靠地形擋住它，再利用夜裏的小突擊拖住它。沒有命令，決不能撤退！