3月21日，李宗仁在徐州第五戰區司令部親自接見了孫連仲和池峰城，體現了第五戰區對第二集團軍所擔負堅守台兒莊重任的高度重視，以及對將士們的關切之情。會見中，李宗仁高度讚揚了孫連仲集團軍輝煌的戰史，以及他們擔負這次防禦任務的重大意義。最後，他專門向池峰城布置作戰任務：第三十一師到台兒莊後，先接替第一百師韓莊至台兒莊沿運河防線，然後可向嶧縣出擊，並堅決在台兒莊堵住日軍。當湯恩伯軍團進擊日軍側背，把日軍全力壓迫到運河北岸、微山湖畔一帶時，便配合湯恩伯軍團，將日軍聚而殲之。李宗仁還特別交代：為了協同方便，池峰城師暫歸湯恩伯指揮，待第二集團軍總司令部到來後，部隊再歸建製。
台兒莊地區大軍雲集，中國軍隊將重武器運到這裏。
台兒莊是山東嶧縣東南部的一個小鎮，和江蘇省的邳縣相毗連，運河繞城而過，因此是一個水陸碼頭。台兒莊又是津浦線台棗支線和台濰公路的交叉點，是徐州的門戶，也是滕縣失守後，屏護徐州的最後一道防線，戰略地位十分重要。
台兒莊的城牆是用磚石砌成的，城內商業繁盛，遠看這個城鎮，很像一座縣城。台兒莊附近產媒，城外有煉焦廠多處。城內建築都是磚木結構。居民約有一千戶，街道寬度隻能容馬車通過。路麵是用青石鋪成。為了確保徐州安全，在台兒莊戰役前，中國守軍在這裏構築了一些防禦工事，修築了石牆兩英裏，內設碉堡七十多座。
3月21日，湯恩伯軍團司令部及關麟征軍朝向城和蘭陵鎮推進時，路經台兒莊，湯恩伯和關麟征會晤了池峰城。湯恩伯簡單地重複說明了長官部的意圖，特別強調第三十一師務須努力堵擊日軍的南進。他說：“貴師任務重大，務需努力堵擊敵人之南進，軍團在貴師與敵接火後，當不顧一切，馬上抄襲敵之側背，協力夾擊敵人。為了貴師與關軍緊密協同，便於聯係起見，貴師可暫受關軍長的指揮。一切細節問題請與關軍長就近協商。”
湯恩伯要求池峰城師以一個旅的兵力進至台兒莊以北的泥溝附近，對嶧縣方麵的日軍實行警戒。還答應在池峰城師與日軍接火後，他將率領第二十軍團馬上抄襲日軍側背，協力夾擊日軍，池峰城師隻要能在台兒莊一線堅守三天，就算完成任務。
然後，關麟征又與池峰城談話。關麟征也重複了湯恩伯說過的話，還一再表示：“貴師任務極重，望勉勵發揮貴師固守毅力，努力完成任務，功在國家。”
池峰城慷慨激昂地表示，一定要與日軍死拚到底，以盡軍人的天職。屈伸在一旁插話，詢問關麟征：“我師與敵接戰後，貴軍究竟能在多長時間揮軍南下夾擊敵人？我師守台兒莊最低限度須堅守幾天？”
關麟征說：“貴師與敵人接觸，槍聲一響，我們便能馬上回援，按距離最多不出一天定可回援。貴師堅守台兒莊能堅持三天即算完成任務。”
這時，日軍飛機編隊來襲擊，大家都散開隱蔽。空襲過後，湯恩伯等人匆匆與池峰城等人話別而去。
關麟征軍通過台兒莊以後，為了避開日軍的飛機偵察，保持部隊行動機密，一直是夜行軍。全軍於3月22日晚到達向城。他們奉命在向城附近休整一天，於3月24日向棗莊方麵前進。
池峰城按照李宗仁、孫連仲和臨時領導湯恩伯的指示精神，對部隊進行了部署：康法如旅守衛台兒莊及運河一線，乜子彬旅向嶧縣方麵擔負搜索警戒任務。第三十一師派出一個騎兵連為先鋒，向嶧縣搜索前進，以第一八三團登峰隊為前兵，在騎兵連後一個有利地形向前躍進，與騎兵隊之間的距離視地形而定。以第一八三團第一營為前衛，在前兵後跟進。以戴炳南第一八一團控製於台兒莊。以第一八二團擔任運河南岸警戒，利用時機，加強防禦工事。
在台兒莊城寨裏的部隊是池峰城師的第一八六團。這是一個加強團，團長王冠五兼任守城司令。師長池峰城在城外指揮。第二集團軍總司令部的駐地，距離台兒莊城寨隻有五公裏左右。
李宗仁於這一天到車輻山車站視察，目睹日軍火力強大，對中國軍隊構成極大的威脅。於是他想到了要爭取中國的空軍能來台兒莊助戰。孫連仲於23日到達前方時，李宗仁已於先一天從前方返回徐州，統一指揮全局。孫連仲集團軍其餘部隊，黃樵鬆師與張今照師及吳鵬舉旅等部，已陸續集結在台兒莊西南約三十公裏處的賈汪東北和台兒莊以南地區。
當時，湯恩伯的第二十軍團，節製第十三軍、第八十五軍和第五十二軍，在邳縣、郯城和蘭陵鎮一帶廣大地區活動。張自忠的第五十九軍增援龐炳勳第三軍團，在臨沂一帶阻擊南進的日軍。孫桐萱的第十二軍、曹福林的第五十五軍和川軍孫震第二十二集團軍沿津浦鐵路駐守兗州、濟寧、夏鎮、官橋、滕縣等地，相機側擊日軍。於學忠的第五十一軍及周喦的第七十五軍都從蚌埠和懷遠等地區陸續向徐州附近集中，準備增援第一線。
在蔣介石親自到徐州視察戰局的3月24日，晚上12點，白崇禧在孫連仲的陪同下，親臨台兒莊前線視察。他們先來到韓家寺第二集團軍司令部，聽取孫連仲的彙報，然後又來到台兒莊南站池峰城師部了解戰況。當得知池峰城師僅裝備有步機槍與迫擊炮，急需大炮支援時，白崇禧即在師部分別與徐州的李宗仁和開封的程潛通了電話，李宗仁和程潛答應即調野炮、戰防炮、坦克隊到台兒莊。
1938年1月15日，杜聿明的裝甲兵團擴編為第二百師，積極整訓，準備參加抗戰。當台兒莊戰役打響時，由於蘇聯支援的八十七輛五噸級炮戰車和從意大利購買的二百輛三噸級槍戰車還沒有運到，第二百師來不及派全師參加台兒莊戰役，隻能將已經裝備完成的馮爾駿炮兵第五十二團的三個營和佟大芳的師直屬步兵炮營，配屬給參加台兒莊戰役的各部隊參加作戰。這四個營中，每營都有三十七輛戰車和十八門戰車防禦炮。杜聿明認為，由於這些戰車防禦炮配屬第五戰區以後，由戰區司令長官部分割，配屬各部隊協同作戰，並未集中使用，所以未能給日軍以殲滅性的打擊。
這些炮兵營裝備的是沈陽仿造的克虜伯野炮，炮彈口徑為七十六毫米，最大射程十三公裏，每營配備此炮八門。
重炮連裝備的是德國造萊茵式重榴彈炮，炮彈口徑為十五厘米，最大射程為十五公裏，重炮連配備此炮三門。這種炮是當時中國軍隊中射程最遠、威力最大的野戰重炮。
戰車防禦炮是由重慶五零兵工廠仿瑞士蘇羅通戰車防禦炮製造而成，炮彈口徑為三十七毫米，最大射程三千米，每分鍾可連續發射炮彈二十發。此炮發射的穿甲彈，穿透能力強，對坦克很有威脅力，而發射的爆炸彈則可給人員造成大量的殺傷。將配屬於第三集團軍的是第二百師炮兵第五十二團第八連，該連裝備此炮六門。
以上這些重兵器，雖然數量有限，但大大地增強了第二集團軍的作戰實力。
炮兵和鐵甲車隊於3月25日日間即抵達台兒莊參加戰鬥。戰車防禦炮也於3月26日夜間運至台兒莊南站。還計劃出動空軍，炸射日軍。當時，除了已經集結在台兒莊地區的幾十萬中國軍隊，為了使會戰穩操勝券，軍事委員會又令集結於武漢附近的黃傑第八軍、劉興第二十七軍、俞濟時第七十四軍、宋希濂第七十八軍、李漢魂第六十四軍火速向徐州地區增援。
一時間台兒莊地區大軍雲集，一場激戰眼看就要爆發。
登峰隊全部殉國，活張飛血戰劉家湖。
當中國軍隊做好部署以後，日軍果然從滕縣大舉南下。湯恩伯軍團在津浦線上與日軍作了間斷而微弱的抵抗，誘敵深入，隨即奉命陸續離開正麵，退入抱犢崮山區。該軍團的重炮營，立即調到台兒莊運河南岸，歸戰區長官部指揮。日軍果然不出李宗仁所料，舍棄湯恩伯軍團而不顧，出動所有兵力，沿著津浦路的臨棗支線南下，直撲台兒莊而來。
日軍總數約有四萬人，擁有大小坦克車七八十輛，山炮、野炮和重炮多達一百多門，上空還有飛機助戰。凡是有利於中國軍隊的橋梁道路，都被日軍炸毀。
3月22日，日軍衝到台兒莊北泥溝車站，徐州城內已經可以聽到炮聲。
根據預定作戰部署，3月23日淩晨，池峰城師乜子彬第九十三旅的先頭部隊開始從台兒莊一線向嶧縣方向搜索前進。當乜子彬旅由中共地下黨員劉蘭齋指揮的騎兵連搜索到嶧縣以南八公裏處的亂溝附近時，與南下日軍先頭騎兵部隊約三百多人、坦克一輛遭遇，從而打響了台兒莊一線戰鬥的第一槍。
當麵的日軍是由福榮真平步兵第六十三聯隊第二大隊及野炮兵第十聯隊第一大隊組成的，配屬有坦克、裝甲車、野炮及騎兵隊，共一千多人。就當時中日軍隊的實力對比看，日軍的這支混合部隊，除了人數以外，無論是在部隊的機動性方麵，還是在火力配備上，都超過了中國軍隊一個普通師的水平。
乜子彬旅騎兵連一百多名官兵都是久經沙場的老兵，他們在劉蘭齋率領下，占據有利地形，打退了日軍一次又一次的進攻。日軍見久攻不下，於是調集大炮，對劉蘭齋連陣地轟擊，守軍全隊官兵抱定與陣地共存亡的決心，爭取盡量滯阻日軍，使後續部隊有充分的時間作好迎敵準備。他們把手榴彈用完了，仍然頑強地堅守陣地，不肯退卻。最後，在日軍的輪番攻擊下，陣地終於失陷，全隊官兵傷亡過半，被迫向潘家庵後撤。日軍沒有跟蹤追擊。上級接到騎兵連的報告後，命令他們在敵後采取靈活行動，盡可能偵察和襲擾日軍，如果受到日軍的壓製而抵擋不住時，可以從右翼或左翼撤退到運河以南。
劉蘭齋騎兵連的戰鬥，得到了中國炮兵的支持。當時配屬給孫連仲集團軍的炮兵營，都是分割使用，有的師配屬一個連，有的師配屬一個排。當時有一個連的炮兵和騎兵連一起阻擊日軍。戰車防禦炮在公路附近占領一個側麵陣地，騎兵在前麵警戒。戰車防禦炮等到日軍裝甲車隊在公路上完全暴露時，由尾車打到首車，打得日軍進退不得，亂成一團。可惜騎兵和步兵因為任務的關係未能及時出擊，否則可以取得更大的勝利。
日軍擊退池峰城師的騎兵以後，立即向獐山發起猛攻。池峰城師第一八三團登峰隊都是慣戰的老兵，又占據了有利地形，便以逸待勞，沉著應戰，給日軍以沉重打擊。於是，日軍展開主力，派騎兵和坦克繞到登峰隊側背。登峰隊隊長王保坤和連長寇葆貞，利用有利地形，指揮部隊阻擊日軍。王葆坤不幸負傷，仍苦戰不下火線。這時，手榴彈已經用完，登峰隊仍在堅守陣地。由於登峰隊後方聯絡線已被日軍的騎兵和坦克截斷，王團長幾次命令他們後退，連長寇葆貞卻不肯後撤。他抱定“人在陣地在”的決心，認為在敵前退卻也難幸存，不如和日軍拚個你死我活。在日軍飛機和大炮的聯合轟炸下，全隊一百多名官兵，幾乎全部壯烈犧牲。
在戰鬥中，登峰隊繳獲了日軍的油印文件，獲悉進攻的日軍是磯穀師團的瀨穀支隊，以瀨穀啟旅團為基幹，配有強大的炮兵部隊，炮兵有十五厘米的榴彈炮，此外還有獨立機槍大隊、獨立工兵、坦克裝甲隊、汽車隊等。就其兵員、火力、機動力和指戰員素質而言，都遠遠超過中國軍隊一個軍的戰鬥力。
當天晚上，池峰城根據敵情，對各部隊的任務作了部署：騎兵仍活動於潘家庵附近地區，監視嶧縣日軍的行動；乜子彬旅以一部置於南洛、孫莊各據點，主力置於板橋；第一八六團仍負責台兒莊的守備，迅速構築防禦工事；第九十二旅以一部進駐台兒莊北站附近，並迅速加強該地工事。
當天下午，當中國軍隊各部隊進入陣地時，日軍飛機多架飛到守軍陣地上空，作低空飛行，一邊偵察，一邊用機槍掃射。守軍雖然有各式各樣的偽裝，但仍有不少官兵受傷。由此可以預料，雙方的喋血大戰即將開始。
同一天，李宗仁得到戰報：池峰城師與日軍遭遇，日軍已進至北洛。他當即給孫連仲下達命令：孫總司令即赴台兒莊指揮；駐賈汪的黃樵鬆第二十七師星夜徒步向台兒莊附近集結。
孫連仲受命後，即率集團軍總司令部於24日早晨4點抵達台兒莊運河以南五公裏處的韓家寺，親臨調度指揮。並急令黃樵鬆師火速開到台兒莊附近地區。
黃樵鬆師是孫連仲的基幹部隊，孫連仲曾任該師師長。由於是孫連仲的“嫡係”，因此經孫連仲爭取，列為國民黨軍隊“調整師”編製，其裝備、軍械雖不如蔣介石的嫡係部隊，但較第二集團軍的其他兩個師稍為優良。
黃樵鬆是一個具有民族氣節的愛國軍人。他十分痛恨國民黨軍隊中那些對日軍作戰時貪生怕死、保存實力的將領，稱他們“非炎黃子孫，實為中華民族的敗類”。他把滿腔的悲憤化為抗擊日軍的行動，在娘子關戰役中，他身先士卒，率部痛擊日軍，擊斃日軍步兵第七十聯隊聯隊長鯉登大佐。娘子關戰役後，黃樵鬆接替馮安邦任第二十七師師長。
當3月24日早晨4點，黃樵鬆接到孫連仲命其部速開台兒莊的命令後，早晨5點，黃樵鬆即率本師從賈汪附近地區出動，三個梯隊徒步向台兒莊前進。下午6點，部隊抵達台兒莊南站附近。
日軍占領獐山後，接著就推進到泥溝。十多架飛機飛臨台兒莊上空，對台兒莊及附近炮兵陣地濫施轟炸。每架九八式轟炸機上，都裝載著三百至四百五十公斤炸彈。頃刻之間，台兒莊被硝煙烈火籠罩。狂風暴雨般的炮彈，把台兒莊外圍陣地工事基本摧毀，日軍步兵步步逼近，向北洛猛攻。守軍第一八五團王鬱彬團長督率高鴻立營據險抵抗。在優勢日軍的攻擊下，且戰且退，於夜幕降臨時退到南洛。傍晚，日軍追擊第一八五團到南洛，被伏兵所阻。日軍趁勢占領了北洛，與中國守軍相對峙。
24日夜晚，第五戰區派炮兵第七團團長張廣厚率領第一營來到台兒莊協助池峰城師作戰。張廣厚到師部報到，準備接受任務。屈伸問了這個營的火炮彈藥等情況，知道該營隻有沈陽造仿克魯伯七五野炮十門，各炮配附的炮彈隻有幾十發。屈伸向張廣厚介紹，日軍炮兵陣地設在台兒莊以北的劉家湖附近，他們的炮火十分猛烈，致使守軍官兵傷亡慘重，戰況非常殘酷。他說，希望這個炮兵營對日軍實施炮兵戰，以減輕日軍炮火對城內的壓力。
於是，這個炮兵營設在台兒莊運河南岸東西兩三公裏內，三個連分為三個炮兵群，占領互相隔離的隱蔽陣地。陣地上隻有火炮，人員、馬匹和彈藥都遠離陣地加以隱蔽，把觀測所的電話暫時設在站房西南角，由屈伸觀察彈著指揮。
第二天清晨，屈伸登上火車南站站房的三樓，炮兵已經架好了通信網。張廣厚在樓下西南邊設立臨時觀測所，用電話進行指揮。守軍的炮兵開炮以後，日軍便以猛烈的炮火還擊，同時也向南站的站房射擊，企圖摧毀守軍的觀測所。張廣厚請屈伸趕緊下去，但屈伸見到自己的炮兵發揮了威力，格外興奮，堅持要在三樓觀察彈著點，糾正偏差。不大工夫，站房已被日軍的炮彈擊中，炮彈穿進二樓。與屈伸呆在一起的戰地服務團女團員楊主愛，拉著屈伸的手，另一名團員則使勁推搡，要屈伸下樓躲避。屈伸被兩名服務團員拖下二樓，在二樓拾到一塊彈片，上麵有被炸官兵的血。屈伸把彈片送給楊主愛，難過地說：“這是敵人的鐵，我戰士的血！請你留作台兒莊會戰的紀念吧。”
25日早晨，從前線傳來消息，日軍留一部監視南洛的中國軍隊，主力竟然繞過南洛，推進到劉家湖，向台兒莊發起攻擊。日軍第十師團三個聯隊約五六千人，配有大量空軍、坦克、重炮及其他機械化兵種，突擊台兒莊城東北，被守軍第一八六團殲滅二百多人。
屈伸聽說日軍進攻台兒莊，馬上趕到台兒莊視察，並將指揮所推進到火車南站的鐵路橋下。王震團長、薑常泰副團長、沈林衛生主任一行，陪同屈伸沿城牆視察，發現台兒莊北麵的園上村被日軍占領了。村內築有磚構碉堡多處，日軍欺負中國軍隊缺少重火器，利用碉樓布置了自動火器，俯瞰城防守軍，對守軍威脅很大。巡視中，發現北門內的北街盡頭有一個水塘，水塘旁邊有一座磚結構的大廟，大廟以西的民房距離城牆有幾十米不等的空地，地勢低窪，可以將大廟作為據點，從民房邊沿構成閂止陣地。如果日軍攻打進來，就可以借此為支撐，進行逆襲，消滅和擊退入侵的日軍。
在台兒莊西門前，屈伸遇見錢劍聲連整裝待發，奉命收複園上村。屈伸回到指揮所的時候，就接到前方電話，說王震右臂負傷，錢劍聲英勇犧牲。屈伸的心情十分沉痛，當即建議池峰城以王冠五暫時代理第一八六團團長，並建議王冠五把防禦重點放在台兒莊西半部。
帶領部隊攻擊園上村的錢劍聲是宿遷人。他犧牲不久，他父親來到台兒莊，要把他的靈柩運回去。屈伸對這位烈士的父親說：“錢劍聲是我的戰友，不幸為中華民族而戰死，是我們的損失，我們都很沉痛；而他死得其所，也是我們的光榮。請您老人家代我安慰家人。”屈伸批給他搬靈費三百元。
這一天，在南洛陣地上，戴炳南的第一八一團加強防禦守備，為攻擊部隊提供掩護和支撐。乜子彬和王鬱彬率領第一八五團向劉家湖日軍側背及其炮兵陣地發起多次攻擊，給日軍以重大的威脅。在武器裝備上占優勢的日軍，遭到王鬱彬團的重創。第一營營長高鴻立赤膊上陣，一手持槍，一手持刀，身先士卒，衝入日軍陣營，率部和日軍展開殘酷的肉搏戰，使得日軍的機械化部隊施展不開。
忽然，高鴻立發現日軍炮兵陣地隱蔽於前方小鬆林中，正肆無忌憚地向台兒莊一線猛轟，陣地周圍有日軍守衛。高鴻立義憤填膺，高聲對全營官兵們喊道：“小狗日的在這逞威風，你們瞧，轟炸我台兒莊的炮彈都是從這發射的，今天碰到我們的刀口上，一定要把那狗日的大炮奪過來!”
聽到營長的召喚，士兵們一齊響應：“奪過來！炸掉它！”
高鴻立是個膀粗腰圓，性子剛烈的黑大漢，一向作戰勇猛果決。此時性起，猛地甩掉頭上的帽子，脫去上身的棉軍衣和襯衫，赤胸露臂，左手握著手槍，右手舉起大刀，雙目圓瞪，對士兵們大聲吼道：