李宗仁非常清楚台兒莊的戰況，他心急如焚，急忙命令湯恩伯軍團迅速南下，以形成南北夾擊之勢，緩解台兒莊的緊張局麵。湯恩伯卻逡巡不前，消極避戰。李宗仁對此非常氣憤，嚴厲警告道：“如再不聽軍令，致誤戎機，當照韓複榘的前例照辦。”然而台兒莊的戰況越來越激烈，形勢越來越嚴峻。
到4月1日，台兒莊守軍第31師的四個團已經傷亡過半，第30師調入城內的兩個團傷亡也很嚴重。台兒莊城西北門、北門、東門、東南門均已陷入敵手，全城一半的地方被敵軍占領。然而，守軍並未敗退，而是據守南關一隅，拚死堅守，城內各守備隊利用斷垣殘壁，築起一道道陣地工事，挨街逐巷與敵人周旋搏鬥。他們還組織起一支200多人的奮勇隊，偷襲敵人據點，不斷打擊敵人。
我軍雖然英勇奮戰，但傷亡實在太大，實力也越來越弱。4月4日深夜，孫連仲向李宗仁報告說：“第二集團軍已經傷亡慘重，敵人火力太強，攻勢過猛，但是我們把敵人也消耗得差不多了，可否請長官答應暫時撤退到運河南岸，好讓第二集團軍留點種子，也是長官的大恩大德！”李宗仁沒有作聲。他深知前線的艱苦，但是他又考慮到湯恩伯的軍團第二天中午就可到達台兒莊北部，此時撤出戰鬥，豈不前功盡棄？想到這裏，他狠了狠心，斬釘截鐵地說：“敵我在台兒莊已血戰一周，勝負之數決定於最後5分鍾。援軍明日中午可到，我本人也將於明晨來台兒莊督戰。你務必守到明天拂曉。這是我的命令，如違背命令，當軍法從事！”在電話中，他還要求孫連仲組織夜襲，以打破敵軍明晨拂曉攻擊的計劃。孫連仲聽到此言，知軍命不可違，立即部署戰鬥。他對池峰城師長命令說：“士兵打完了你就自己上前填進去。你填過了，我就進來填進去。有誰敢退過運河者殺無赦！”
池師長奉命，號召部下發揚連續作戰精神，拚死抵抗頑敵的進攻。
午夜，孫連仲組織起先鋒敢死隊數百人，分組向敵人發起突襲。本來，孫連仲的預備隊已全部用完，部隊傷亡過大，但是經過戰前動員，輕傷員們自動組織起來，成為一支銳不可擋的敢死隊。隊員們乘著夜色，衝入敵陣，奮勇異常。日軍倉促應戰，亂作一團。血戰數日為敵所占領的台兒莊市街，竟被我軍一舉奪回3/4，敵人丟盔棄甲，死傷無數。
4月5日拂曉，湯恩伯軍團終於到達台兒莊以北，對敵磯穀師團形成反包圍。4月6日，我軍全線出擊，殺聲震天。敵軍血戰10多天，精疲力盡，彈盡糧絕，機動車輛多數被擊毀，其餘也因缺乏汽油而動不了窩。他們狼狽突圍逃竄，潰不成軍。我軍乘勝追擊，敵除瀨穀支隊數千人逃掉之外，其餘全部被殲滅。
台兒莊戰役前後近1個月，日軍恃其兵器優越，炮火猛烈，不斷發動進攻。中國守軍在李宗仁的正確指揮下，浴血奮戰，僅依靠步槍、手榴彈、機關槍和少量重武器，以傷亡近2萬人的代價，擊潰了日軍精銳部隊的瘋狂進攻，殲敵1萬多人，繳獲了大量的戰利品，獲得了最終的勝利。
台兒莊大捷，是國民黨戰場自抗戰以來取得的最大的一次勝利。這次勝利又一次打破了日軍不可戰勝的神話，一掃抗戰以來失城失地的局麵，極大地振奮了中華民族的抗戰精神！