台兒莊一帶，耕地之下盛產石頭，這裏的居民都以石為牆修建住宅。等戰爭來臨之時，居民們已經舉家南遷，全都去了徐州躲避戰火了。現在，這些石頭建的房子成了守軍最好的陣地，每一所房子就是一座堅固的堡壘。日軍在這些堡壘前吃盡了苦頭，他們的機槍和步槍對這些石頭堡壘毫無辦法。日軍隻好呼叫戰機和重炮火力來摧毀這些石頭房子，再派出步兵在戰車的掩護下，與日軍猛攻了3天3夜，才衝進了台兒莊內，與守軍發生了激烈的巷戰。此時，正當台兒莊之戰進行到激烈的時候，蔣介石指派副總參謀長白崇禧親到徐州，召見第5戰區的抗日將領，慰問抗戰官兵，鼓勵前線將士奮勇殺敵。白崇禧對那些將領們說道：“日軍有不可戰勝之神話，望我軍將士團結一致，打破這個可笑的神話！且見今日的戰爭態勢，隻要我們有敢打之決心，則此神話必破無疑！”第二日，“小諸葛”白崇禧親自到台兒莊的戰場上偵察，指定了一個全殲嘰穀師團的宏偉計劃。
白崇禧和李宗仁這對老搭檔，在台兒莊外圍調集了重兵，將嘰穀師團圍了個水瀉不通。嘰穀廉介發現自己的後路被斷，就橫下一條心要死拚到底。他在全力向台兒莊進攻了一整天之後，發現守軍非但沒有後撤，反而還越戰越勇，經常不計代價的與自己的部隊展開了對攻。嘰穀廉介猛然間意識到這次恐怕要糟糕了，於是他急令部隊停止進攻，反過頭來組織部隊向後方進攻，以求突破中**隊的包圍圈。中央軍湯恩伯的第20軍團的兩個軍向日軍的側翼發動猛攻，對日軍所占領的村子，全部用機槍封住村口，在放大火焚燒，湯恩伯稱此為“堵洞滅鼠”。一時間，他們將劉莊、馬莊、柿林園等村裏的日軍殺了個幹淨。這一帶的日軍見進攻受挫，又後退無路，中**隊又四麵合圍，喊聲震天，眾日軍紛紛大喊著玉碎，迎著中**隊進攻的方向，發起了最後的衝鋒。
台兒莊方向，戰事尤為激烈。池峰城部對莊內的日軍實行了反攻，一支百人的突擊隊，在迫擊炮的掩護下，向文昌閣發起了反擊，將盤踞其內的日軍盡數殲滅。嘰穀廉介發現自己已陷入重圍，就急命赤峰聯隊不惜一切代價增援台兒莊。並親臨一線督戰。城內日軍在援軍到達後，又發動了猛烈的進攻，重新控製了台兒莊的東半部。當天夜裏，31師副師長康法如率軍向日軍反攻，激戰數小時後沒能奪回東城。第二天清晨，31師和黃樵鬆的27師聯合發動進攻，終於奪回了東城。此時，小小的台兒莊裏裏外外，雙方已經傷亡了近萬人，城內早已是屍積如山血流成河了。隨便抓起一把地上的焦土，都能從裏麵扒拉出幾塊彈片甚至是碎肉。
31師師長池峰城將軍已經記不清是第幾次派敢死隊出擊了，他隻記得每次出擊，數百人的敢死隊根本就回不來幾個人。這時全城三分之二都已經被日軍占領了，日軍的電台甚至已經再向總部報告，他們已經取得了最後的勝利占領了徐州門戶－－台兒莊。池峰城覺得再拚下去已經沒有意義了，如果31師流盡了最後一滴血，那西北軍就連顆種子都沒了。於是他向老長官孫連仲請示，可否轉移陣地，暫時撤到運河對岸去。孫連仲實在沒有辦法拒絕池峰城的請求，他們31師已經與日軍激戰了整整8天了，對這樣一支部隊他還能說什麼呢？何況31師還是如今，孫連仲付出了巨大的代價，把嘰穀師團消耗得精疲力竭了，但此時負責紮口袋的湯恩伯卻跟他唱起了對台戲。李宗仁雖三令五申的命令湯恩伯火速南下，但湯恩伯總是推三阻四的，仍在姑婆山前停滯不前。如果湯恩伯不能及時趕到，孫連仲付出的巨大代價就將毫無意義不說，嘰穀廉介用不了多久就會喘息過來。另外日軍的增援部隊也會及時趕到，到那時整個魯南會戰將會慘敗，武漢也勢必難保，中國抗戰將一片黑暗。李宗仁在無奈之下，給身在武漢行營的蔣介石打去了電話。蔣介石從大局出發，也急切的希望第5戰區能打一場勝仗，用來鼓舞軍心、民心。於是，蔣介石對李宗仁說道：“凡對抗戰不利者，你皆有權先斬後奏！”
得到了尚方寶劍的李宗仁，隨即對湯恩伯訓斥道：“我已受蔣委員長之命，有權對抗戰不利者先斬後奏！如有所屬再不服從軍令，致使貽誤戰機，當按韓複榘的前列嚴辦！”湯恩伯受到了震懾，這才答應即刻就領兵南下。李宗仁預計湯恩伯至少需要2天時間才能向嘰穀師團發起攻擊，他就隻好硬著頭皮命令孫連仲軍團，必須死守台兒莊，決不許後退半步，違令者將以抗戰不利罪論處。
沒多久，孫連仲再次打來電話，他對李宗仁說道：“李長官，