台兒莊是山東省棗莊市的一個直轄區，是魯南的重鎮。曆史上，台兒莊始建於漢代。台兒莊四麵環水，先人築台避水，以台地名村。《明史》稱“台莊”、“台家莊”。明正德年間稱“台家莊集”。崇禎十二年（1369年）始稱“台兒莊”。台兒莊於明洪武二年（1399年）劃屬嶧縣，沿至民國。明萬曆三十二年（1604年）京杭大運河改道，由濟寧經微山湖向東沿台兒莊南下，南北漕運迅速發展，台兒莊很快成為嶧縣巨鎮，境圍百餘裏，人口數十萬，莊內達數萬。《嶧縣誌》載稱：“台兒莊跨漕渠，當南北馱道，商旅所萃，居民饒給，村鎮之大，甲於一邑，俗稱‘天下第一莊’。”民國時期，台兒莊地處魯南與蘇北交界處，津浦線以東，隴海線以北，有臨（城）棗（莊）趙（墩）鐵路支線，濰（坊）徐（州）公路及大運河經過，人口萬餘，居民3000戶以上。台兒莊城牆高築，房屋多為石砌，東西2.5公裏，南北1.5公裏，街巷12條，東西南北及東南、西北門6座，大碉堡樓9座，小碉堡樓70餘座，防守嚴密，自古以來為兵家必爭之地。台兒莊距徐州以北60公裏，為魯南之門戶，徐州之屏障。在軍事上，台兒莊與徐州有唇亡齒寒之關係。
台兒莊初期保衛戰
日軍攻占滕縣後，下一步的目標就是台兒莊。攻占台兒莊的主力是第十師團瀨穀支隊。
瀨穀支隊的編製是：步兵第三十三旅團司令部、旅團長瀨穀啟少將。旅團司令部轄步兵第十聯隊（缺一個半大隊），步兵第六十三聯隊、獨立機關槍第十大隊、獨立輕裝甲第十、第十二中隊、野炮兵第十聯隊（缺一個大隊、兩個中隊）、臨時野炮兵中隊（九○野炮）、臨時編成山炮中隊、野戰重炮兵第二聯隊（一個大隊，缺聯隊段列半部）、支那駐屯炮兵第三大隊（十五榴二個中隊）、工兵第十聯隊第一中隊、師團通訊隊之一部、師團衛生隊、師團第一野戰病院、兵站自動車第十五中隊。此外，將數戰重炮兵第一旅團長以下指揮機關之一部與師團參謀逆瀨川幸男大尉配屬於該支隊。
日軍占領滕縣的當天，瀨穀支隊長根據第十師團長的命令，以步兵第六十三聯隊第一大隊（缺一個中隊）基幹為右追擊隊，向韓莊追擊；以步兵第六十三聯隊第二大隊基幹為左追擊隊，向嶧縣追擊，支隊主力集結於臨城附近。
日軍右追擊隊於3月20日占領韓莊；左追擊隊於20日淩晨占領嶧縣。占領嶧縣之目的，是為確保棗莊附近煤田，並為第五師團攻擊臨沂創造有利條件，以形成會攻台兒莊的陣勢。
不料，第五師團進攻臨沂受到張自忠、龐炳勳部的沉重打擊。3月19日，日軍第二軍參謀崗木清福大佐到兗州，對第十師團長傳達第五師團阪本支隊受挫情況，此時南下困難，示意第十師團支援阪本支隊。
第十師團20日命令瀨穀支隊“確保韓莊、台兒莊運河之線，一方麵警備臨城、嶧縣，一方麵盡量多派兵力向沂州方麵突進，協助第五師團之戰鬥。”①
瀨穀支隊長於21日對步兵第六十三聯隊長發出命令：“步兵六三（缺第一、第二大隊、一中隊。野炮兵第十聯隊第一大隊［缺二中隊］屬之），於明日自臨城出發，向嶧縣前進，並指揮左追擊隊，搜索台兒莊及蘭陵鎮方向之敵情。”①步六三主力接命後於22日7時自臨城出發，同日17時30分到達嶧縣，掌握左追擊隊。
22日10時，瀨穀支隊長又發出下列命令：
一、右追擊隊改為韓莊守備隊，守備韓莊。
二、台兒莊派遣隊（步六三之第二大隊、野炮一個大隊基幹）於23日自嶧縣出發，確保台兒莊附近之線。
三、沂州支隊（步一○主力基幹）於23日自臨城出發，向沂州方麵前進，策應阪本支隊之作戰。
四、瀨穀支隊主力集結於嶧縣附近。②
此電發出不久，瀨穀支隊長又接到我軍在嶧縣增兵第二十軍團情報。遂於23日夜發出緊急命令，其要旨為：
一、支隊派遣一部分開往沂州方麵，策應阪本支隊，主力確保韓莊及台兒莊附近之大運河之線。
二、沂州支隊（步兵第十聯隊之第二大隊基幹），於24時自臨城出發，向沂州方麵前進，策應阪本支隊之作戰。
三、步兵第十聯隊（缺第二大隊，炮兵屬之）以一部分確保韓莊附近大運河之線，主力集結於臨城。
四、步兵第六十三聯隊（缺一個大隊，炮兵等屬之）以一部分確保台兒莊附近大運河之線，主力集結於嶧縣。
五、支隊司令部及直轄部隊集結於棗莊附近。③
與此同時，第五戰區也調整了部署。3月18日臨城（今棗莊西）、棗莊失守後，津浦線北段告急，剛剛被調到鄭州、洛陽一帶的孫連仲第二集團軍又奉調到第五戰區。這時第五戰區在台兒莊中央戰場的作戰部隊是：第二集團軍三十一師、二十七師、三十師和獨立四十四旅，及先期奉命增援並調歸第五戰區指揮的第二十軍團第八十五軍、第五十二軍、第十三軍等。我方在人數上多於日軍，但在武器裝備上卻遠遠落後對方，雙方力量懸殊。
第二集團軍是國民黨軍隊中的一支“雜牌軍”，原屬馮玉祥西北軍。集團軍總司令為孫連仲。
孫連仲，原名席儒，後改連仲，字仿魯，清光緒十八年十二月十六日（1893年2月2日）生於今河北省雄縣尤灣村。雄縣，古稱瓦橋關，五代時周世宗征遼，攻占此關後易名雄州，明代改縣。古代此邑常為戰爭之地，故民風尚武，流傳至近代。
孫連仲生長在一個富裕的農民家庭，其父曾開設麵鋪，後經營錢糧行，獲得頗豐，購置田產400餘畝，他4歲時喪父，由母親及哥哥撫養。他7歲入私塾，讀書刻苦努力，寒暑不輟，博得老師和同學好評。孫連仲對武術技藝更感興趣，他身高1.82米，身材魁梧，臂力過人，是標準軍人體格。他受“從軍報國”思想影響，1912年2月到雄縣應募投入北洋第二鎮當兵，入伍後赴保定被編為第二鎮第四協第八標第一營三連為學兵。後調入炮兵受訓，以成績優異受訓半年即升為正兵。1914年升棚目（班長）。6月被選入馮玉祥第十六混成旅炮兵營充任班長。孫連仲對馮玉祥製訂的“精神訓話”要點51條，入口成誦，講述時頗有心得，博得全旅官兵及馮的讚許。孫連仲頗具軍人膽識，性格忠厚，作風樸實，然諾必行，軍旅生活中嚴於律己，寬以待人，在青年軍官中很受士兵擁護。1915年底護國戰爭爆發後，在四川瀘州、敘州（宜賓）作戰期間，龍頭山一役，曾一人扛起238斤重的山炮，帶領士兵抄後路襲擊護國軍，一炮擊中對方陣地，給馮軍帶來暫時勝利。馮玉祥擢升他為炮兵營第一連連長。
1917年，第十六混成旅已回駐廊坊，馮玉祥一度調離該旅。張勳複辟事件發生後，一群少壯軍官醞釀對“辮子軍”作戰，當時群龍無首，孫連仲乃聯合孫良誠、韓複榘、石友三、劉汝明、佟麟閣等12位連長，自7月7日向張勳“辮子軍”猛攻，孫連仲為前鋒，12日首抵京城。複辟一幕遂告終結。1922年直奉戰爭後，孫以戰功升炮兵團長，成為馮玉祥部隊中骨幹“十三太保”之一。1924年秋，馮玉祥提升孫為衛隊旅旅長。馮玉祥發動“北京政變”時，孫連仲親率手槍團包圍總統府，將曹錕囚延慶樓。政變後，孫連仲調任國民軍第一軍炮兵旅旅長。不久，馮玉祥擴軍，孫又升任騎兵第二師師長。
孫連仲注重部隊訓練，對軍紀要求甚嚴，他一直恪守馮玉祥為國民軍提出的“不擾民，真愛民，誓死救國”的要求，部隊因而受到當地群眾的稱讚和支持。1925年孫連仲部隨同國民一軍活動在京津地區，曾參加國民軍一、二、三軍會戰天津之役。1926年初，直奉聯合進攻國民軍，因南口大戰失利，孫連仲奉派攻打山西計劃也告失敗。後到寧夏，退回甘肅。
1926年9月，馮玉祥舉行“五原誓師”，宣布響應南方國民革命軍北伐。孫連仲任第十二師師長，又被馮玉祥委任為“全軍總執法”。1927年5月，馮玉祥任國民革命軍第二集團總司令，孫連仲以右路軍總司令率部在豫西一帶與直係吳佩孚作戰。1927年6月徐州會議後，馮玉祥將所部擴編為9個方麵軍。孫連仲初任第九方麵軍總指揮，後轉任第二方麵軍總指揮，並任北伐軍京漢前敵總司令，在豫北與奉軍作戰，斃傷敵兵萬人以上。1928年4月，孫連仲率部奉命入陝，7月奉調入甘，12月任青海省主席，8月接任甘肅省主席。
1930年孫率部進入河南，參加中原大戰。馮玉祥失敗後，西北軍擁鹿鍾麟為總司令，孫連仲為副總司令。10月18日，孫連仲在新鄉發出通電，聲明今後“擁護中央，和平統一建國，決不參加內戰”。接受蔣介石改編後被委為第二十六路軍總指揮。第二十六路軍下轄第二十五師（孫自兼師長）、高樹勳第二十七師、關樹人第一騎兵師。
1931年初，孫連仲任江西清鄉督辦，率領第二十六路軍參加對紅軍的第二次圍剿。同年7月，孫連仲部改任第二軍團總指揮，參與對紅軍的第三次圍剿，部隊接連打了敗仗，損失慘重。孫部駐寧都，北方兵水土不服，營中瘧疾、赤痢流行，孫本人染疾在南京治療。是年12月，趙博生和董振堂率部舉行“寧都起義”。蔣介石派陳誠陪同孫連仲去寧都收拾殘局。後保留第二十六路軍番號，編製縮小。1935年5月，孫連仲以第九路軍司令官率二十七師在江西新淦、永豐地區參加對紅軍的第四次圍剿。1933年9月，駐湖北麻城之第三十軍張印湘（原吉鴻昌部）不穩，孫連仲奉命以二十六路軍總指揮名義整理，得到蔣介石的稱許。1934年初，孫率第三十軍再到江西，駐永豐，蔣介石將第二十七軍、第四十二軍歸其指揮。是年，孫連仲參加對中央蘇區第五次圍剿。1935年初，孫又奉命率部到湖北追擊紅軍賀龍、肖克部。同年11月國民黨“五大”，孫連仲當選為中央監察委員。
盧溝橋事變爆發後，孫連仲部於1937年8月初奉命北上抗日。孫召集本部高級軍官會議，在會上慷慨陳詞說：“日本蓄意侵略我國已久，現國家命運已至最後關頭，吾人須以全力報效國家，挽救危局，以盡軍人天職！”8月6日，蔣介石命孫連仲為第二集團軍副總司令（總司令劉峙）兼第一軍團司令。8月10日，孫連仲率領第三十軍與第四十二軍在河北省房山及良鄉，與日軍作戰一個月零九天，日軍史稱：“涿州保定會戰”，實用兵力8．85萬人，戰死1488人，重傷4000人。後劉峙免職，孫連仲升第二集團軍總司令。10月11日，孫連仲率部在娘子關與日軍第二十師團作戰，10月14日，孫連仲派三十一師進攻娘子關舊關之敵，一度攻入關內；獨立第四十四旅在六嶺關附近與日軍展開遭遇戰，占領了六嶺關；二十七師也奉命向核桃園等地的日軍發起進攻。後二十六路軍主力被日軍增援部隊圍攻，二十七師傷亡殆盡。孫連仲一麵率部轉移，一麵指揮部隊向日軍進行英勇抵抗，擊退了敵人總攻。26日在日軍連續進攻下被迫放棄娘子關。在這次作戰中，孫連仲的第二十六路軍損失慘重，減員近4/5。
1938年春，魯南告急時，李宗仁之所以把這支武器裝備低劣、又尚未補整的“雜牌軍”放到台兒莊、運河一帶最重要的防守陣地，完成阻日軍南下的關鍵任務，是因為他對這支部隊的曆史和戰鬥力的深刻了解，“孫軍為西北軍舊部，最善於防守！”當時李宗仁的腹案是：讓第二集團軍在台兒莊部署防禦工事，發揮其防守的特長。著湯恩伯軍團讓開津浦路正麵，誘敵深入。利用敵人驕狂心態，設成圈套，請君入甕。待我方守軍在台兒莊防禦戰之最高效能之時，再命湯軍團潛進南下，拊敵之背，包圍而殲滅之。由此，台兒莊之戰，乃是一場包圍殲滅戰。
第二集團軍三十一師池峰城部自信陽北開，剛到許昌，立即被調到徐州歸湯恩伯第二十集團軍指揮。該部於3月19日到達徐州車站。全體官兵未下車就地待命。池峰城師長到徐州晉謁第五戰區司令李宗仁。
池峰城原名鳳臣，字滇峨，清光緒二十九年（1903年）生，河北京縣人，中等身材，體態勻稱，四方臉型，濃眉大眼，透露出一種粗獷豪壯的氣質。他小時沒上什麼學，文化水平不高，但為人忠厚，很能吃苦耐勞。他是孫連仲的老部下，屬馮玉祥西北軍舊部，1920年在十六混成旅任軍職，1927年任第二集團軍第三旅第十營營長。1930年中原大戰後任第二十六路軍第二十七師七十九旅旅長。1933年，升任二十七師副師長，被選送到南京軍校高等教育班學習一年。在軍校學習期間，他的學習成績最優，又善交際，為蔣介石器重。學習回隊後，孫連仲保薦他為三十一師師長。1936年1月授池峰城少將銜，10月授中將銜。池峰城戰鬥作風頑強、勇敢，是受孫連仲賞識的一員驍將。盧溝橋事變後，孫連仲第二集團軍由孝感、廣水開赴琉璃河前線，池峰城在前線見到該部軍官，總是關切地詢問：“你們官兵的殺敵情緒怎樣？”當回答：“已到高潮”“隻等同日軍拚殺”他才感到滿意。池峰城在琉璃河、娘子關等戰鬥中，均有戰功。這次池峰城是作為第二集團軍的先頭部隊抵達徐州，到戰區司令部請命。
李宗仁見到池峰城後，首先問候：“池師長辛苦了”，然後交代任務：“此次從濟南南進之敵磯穀師團，陷滕縣，克臨城，下嶧縣，勢其猖獗，有進窺徐州之企圖。軍委會為增強我戰區阻擊敵軍之力量，調第二集團軍歸我戰區指揮。貴部責任重大，望鼎力為之。”
池峰城深悟到戰局的緊迫和任務的艱巨，他既感到光榮而異常興奮，同時更感到責任重大而深感隱憂，他答道：“服從命令，勇敢殺敵是軍人的天職。守衛疆土，為國犧牲是我全師將士的決心。此次奉調，兩者兼之。我全師官兵決心在李司令長官的指揮下，殺敵立功，報效祖國。”池峰城的話語，表達了三十一師全體官兵的愛國赤誠和視死如歸、報效祖國的決心。
李宗仁聽到這鏗鏘有力的話語，稱讚道：“西北軍的大刀片使日寇喪膽，我是早有所聞的嗬。藎忱（張自忠字）這次在臨沂打出了威風，使我對完成殲敵計劃增加了一分信心。今見將軍，可說又添我一分信心嗬。”
隨後李宗仁布置了戰鬥任務：三十一師到台兒莊後駐守韓莊至運河防線，堅決在台兒莊堵住南下之敵，迨第二十軍團迂回敵側背時，聚而殲之。最後李宗仁握住池峰城的手勉勵說：“我圍殲冒進之敵的計劃能否實現，現在關鍵在於台兒莊一線能否守住。望你全師將士，如你所說，勇敢殺敵，立功報國，以告慰全國父老兄弟。由於時間緊迫，我不能與你部官兵一一見麵，請代致慰勞之意，待會戰終了，再與貴師官兵，共同祝賀。”池峰城倍受感動：“請長官放心，峰城決不辜負厚望，堅決完成任務！”
第三十一師屬第三十軍（軍長田鎮南），下轄第九十一旅（旅長王冠五）及九十三旅（旅長乜子彬），共四個團：一八一團（團長戴炳南）、一八二團（團長韓世俊）及一八五團（團長王鬱彬）、一八六團（團長王震）：師直屬部隊計有：騎兵連、工兵營、輜重營、特務連、通信連、衛生隊第一、二兩個連，另配屬炮七團一個營、全師共8000人。該師戰鬥力較強。但由於是非嫡係部隊，裝備較差。各連步槍較雜，多為舊槍，漢陽造七七步槍居多，也有日本三八式和六五式，另外還有少量捷克式七九槍。每連配有輕機槍3—4挺，並有少量擲彈筒，手榴彈較充足（戰後統計全師共用了30多萬枚），營配有重機槍3—4挺，團有迫擊炮連，配八二迫擊炮3—4門。
3月21日，三十一師在車輻山集中完畢，遵照軍團迂回作戰的方略，擔任在台兒莊正麵誘敵之任務，以期殲滅日軍於嶧南地區。當日，湯恩伯與五十二軍軍長關麟征在行軍途中繞到台兒莊與池峰城會見。湯恩伯見到池峰城後除重複說明戰區李宗仁長官的作戰計劃與意圖外，又勉勵恭維了池峰城一番，說台兒莊是會戰的關鍵，貴師任務艱巨，希望貴師能發揮能守善戰的傳統，完成任務，為國立功。待貴師將敵主力吸引到台兒莊以北地區以後，軍團即不顧一切，擊敵側背，協力殲滅磯穀師團，絕不會使貴師孤軍苦戰。接著關麟征也說：“隻要敵人一開始進攻台兒莊，我們便馬上揮軍南下擊其側背，將敵人包圍於台兒莊以北地區。貴師在台兒莊能堅守三天，就算完成任務。”池峰城聽後備受鼓舞，慷慨激昂地說：“沒問題，本師一定與台兒莊共存亡，與鬼子死拚到底，請軍團長放心。”
與此同時，第二集團軍第三十師、第二十七師自河南先後奉命向徐州以北集結。
此外，第二十軍團的張軫第一一○師奉命暫歸李宗仁長官指揮。該部下轄第三二八旅，旅長辛少亭；第三三○旅，旅長李世■，共有六五五團、六五六團、六五九團、六六○團四個團，師直屬部隊有工兵營、騎兵連、通信連、特務連等。全師官兵為11340人。該師於3月18日奉命由河南臨汝出發，到許昌乘火車於25日抵徐州。師長會見李宗仁司令長官後，即撥該師歸孫連仲總司令指揮。接替五十二軍擔任萬年閘至韓莊15公裏河防任務。與第二集團軍第三十一師在台兒莊形成正麵防禦陣勢。
22日，第三十一師到達指定地點。根據日軍在嶧縣的兵力部署，池峰城師長即以九三旅一八五團置於北洛，旅部率一八六團禹營位置於南洛；一八六團擔任台兒莊守備；九一旅一八一團控置於台兒莊，以一八二團擔任台兒莊運河南岸警戒。師部推進至台兒莊。從整個地形看，這是一場背水戰，對我方是不利的，但辯證地看，它又符合古兵法書上的“置之死地而後生”的原則。
3月23日拂曉，第三十一師乜子彬第九十三旅王鬱彬第一八五團及師騎兵連自台兒莊北上嶧縣誘敵，與自嶧縣出發沿台棗支線南下的日軍瀨穀支隊台兒莊派遣隊騎兵200餘人，步兵600餘人，坦克6輛，炮4門，在康莊（位於嶧縣南3公裏）發生遭遇戰，台兒莊保衛戰爆發。
上午10時，日軍續增300餘，炮4門，沿棗台支線向東南追擊至趙莊，與我騎兵連接戰。11時，敵再增500餘，戰車7輛、炮6門，向趙莊、前城、獐山之線壓迫，並炮擊泥溝。下午2吋，敵攻占趙莊，包圍前城，同時以猛烈炮火攻擊獐山，我副營長王保甲、連長寇寶珍率部占據有利地勢，沉著應戰。王保甲負傷不下火線。我軍手榴彈用盡，後方聯絡線被截斷，王團長多次下令後退，寇寶珍以“人在陣地在”之決心，堅持戰鬥。敵機炮聯合轟炸，我官兵百餘人，幾乎全部犧牲，獐山陷於敵手。
敵占獐山後，繼以炮火攻擊泥溝，高鴻立營據險抵抗，且戰且退，下午5時半，敵步炮10門，戰車5輛，一齊向北洛發起進攻，我簡易工事被毀殆盡，北洛中彈著火數起。一八五團王鬱彬團長率高營奮勇抵抗，斃敵甚眾，同時令顏營所部由歡堆出擊，未能奏效。激戰半小時，我官兵續有傷亡，敵攻擊益急，北洛失陷，我軍扼守南洛、賈家口。
第三十一師一八五團王鬱彬團長對來訪記者講述3月23日戰況時說：
敵人的意圖，是在奪得臨城、棗莊、嶧縣之後，想乘勝占領台兒莊，威脅徐州。這一路的敵人，當時有25000左右，以磯穀師團為主力。我方早已看透了敵人的奸計，所以一方麵將本路急調台兒莊附近堵擊，一方麵並調曾經在南口作戰的□［湯］軍向臨城、棗莊大迂回，以圖一舉將臨棗台支線敵人消滅。首先渡過運河進駐台兒莊的，是我和烈武［王震］團長所帶領的這兩團人，當時盤據嶧縣想進犯台兒莊的敵人約有3000餘名。當時我們向旅長請示，決不等他們進犯，再去迎戰，我們要先給他們一個教訓才行。於是決定由烈武團長指揮全團把守台兒莊，由我率領本團全部北進去引誘敵人，兩麵夾擊，一舉將嶧縣的敵人消滅。計議既定，於是我便在上月23號正午向北進至泥溝車站去誘敵，該地距嶧縣隻18裏，敵人乘占嶧縣之餘威，正想南下進攻台兒莊，見我們向他來挑戰，便立時派一×［大］隊約1000餘人向我們猛衝，激烈戰事遂於該下午一時在泥溝附近開始，雙方肉搏衝鋒，敵人炮火失去效用，激戰約三小時，斃敵200餘人，我方亦傷亡百餘，並有八連連長陣亡。同時我並派便衣將泥溝迤東×村將敵人消滅一部。
這時，我見誘敵的目的已達，為的和台兒莊我軍收夾擊之效，便佯作敗退，於同日下午5時，撤至泥溝迤南8裏之北洛。7時許，敵人果跟蹤而至，全力向我攻擊，我與激戰兩小時，便又於當晚12時撤至北洛迤南5裏之□□。這時敵人距台兒莊已不過十七八裏了。①
23日晚7時，第三十一師部署變更如下：
1．師騎兵仍於蘇家埠、潘家庵附近地區，監視嶧縣敵人之行動。
2．第九三旅（欠一八六團之一營）以一部位置於南洛、賈家口、孫莊各據點，與敵保持接觸，主力控置於板橋，並以有力之一部，在今夜襲擊北洛之敵。
第一八六團（欠第三營）仍任台兒莊之守備，速構築防禦工事。該旅便衣隊著即進出獐山東北地區，極力活動。
3．九一旅以一部進駐北站附近，並對該處工事應速加強。①
是夜，九十三旅之一部襲擊北洛，未奏效。
24日清晨，天霧蒙蒙，日軍步炮兵千餘人，繞過南洛，經邵莊、劉家湖向台兒莊進攻。我部隊逐次抵抗，後退至園上，但終因敵炮火猛烈，我守兵犧牲甚眾，中午園上被敵占領。同時，敵以步炮猛攻台兒莊，又派飛機3架輪番轟炸，戰況益烈。我台兒莊守備隊奮力拚搏，打退敵人數次進犯。
三十一師師長池峰城料斷，敵以主力攻擊台兒莊之企圖非常明顯，為確保台兒莊，擬以部隊攻擊當麵之敵，乃令九十三旅先機反攻。派一八五團全部，不顧一切犧牲，向劉家湖、邵莊之敵進攻，一八六團同時全力反擊當麵之敵，規複園上村。
下午2時，第一八五團由南洛向敵繞攻，動作神速，激戰時許將敵主力擊潰，斬獲甚眾，並占領劉家湖。該村敵兵不足百人，除8名逃至村南跪地舉槍投降外，其餘全部被殲。邵莊之敵，大部向滄浪廟、邊莊潰退。我一八六團反攻園上之敵，因敵據碉樓死守，未能奏效。
下午5時，北洛之敵複向劉家湖反攻，經高鴻立營擊退。同時滄浪廟、邊莊敵人也全部反攻，炮擊猛烈。敵以優勢山野炮向台兒莊猛烈轟擊。頓時全莊煙火四起，北部城牆多毀於炮火，師指揮所所在地南車站大樓被擊毀，被迫轉移到車站南麵鐵路橋下。台兒莊寨外為開闊地帶，敵人要攻占台兒莊，迫近寨牆，完全暴露於我陣地前，在我密集火力掃射下，敵兵死傷甚眾。敵指揮官以前進受阻，又急調平射炮10餘門，配合飛機向寨牆狂轟濫炸，硝煙彌漫，寨牆逐段斷裂倒塌，後被轟開幾個缺口。我官兵傷亡甚巨。下午6時，敵人200餘狼奔豕突衝入缺口，情勢危急。我一八六團團長王震、營長薑常泰帶領預備隊及時趕到，馬上組織反擊，集中輕重機槍向敵人猛烈掃射，殲敵大部。敵後繼部隊連續數次衝入，均被我擊退，棄城逃竄。據日本防衛廳戰史記載：
台兒莊派遣隊（步六三第二大隊為基幹）3月24日繼續南下，同日傍晚以一部突破台兒莊城牆的東北角，但受到反攻沒有成功，派遣隊因彈藥缺乏中止攻擊，撤至台兒莊北麵，作以後攻擊的準備。①
敵人銳氣頓挫，士氣沮喪。我軍士氣大振，奪回突破口，即用麻袋磚土重新修複。在激烈的鬥爭中。王團長（王震）、薑營長（薑常泰）均負重傷，錢劍聲連長犧牲。在千鈞一發之際，他們奮不顧身，身先士卒，在機槍射手陣亡時，仍繼續戰鬥。
當日下午，蔣介石到達台兒莊鄰近車站視察戰事。是夜，副總參謀長白崇禧偕第二集團軍總司令孫連仲到台兒莊南站視察。白崇禧副參謀總長親登車站大樓，俯視戰場，此時夜幕已深，但台兒莊外許多村落火光通明，硝煙彌漫，許多被炸彈引燃的建築仍在燃燒，十分悲慘。同時還不時傳來零星槍聲。白副參謀總長判斷：“敵將以一部牽製我湯軍團，而以主力攻略台兒莊，以崩壞我迂回軍之旋轉軸。”當詢悉三十一師僅有步機槍與迫擊炮等簡陋裝備，無法與優勢敵兵抗衡時，白崇禧即手令調炮七團一部、戰車防禦炮一連及鐵甲車第三中隊歸三十一師指揮，並對池峰城說：“國家僅此炮二連（團）一尚在機校：一始調汴，希重視之。”又說：“台兒莊乃徐州屏障，今此要點，已非湯軍團之旋轉軸，乃戰區旋轉軸也，期能三日守，俾戰區獲得時間餘裕，敵可就殲也。”勉勵將士努力作戰，囑其從戰局出發，實現聚殲頑敵的目的。
當晚，戰區即派炮兵第七團一營前來協助三十一師作戰。該炮團團長張廣厚亦前來親自指揮。該炮最大射程1.3萬米，其威力不亞於日軍野炮，該營在台兒莊運河南岸布防。
3月25日清晨，敵機10多架向台兒莊上空輪番轟炸，炮兵向寨內射擊，頓時台兒莊全城濃煙滾滾，木瓦橫飛。這是敵人第二次攻寨的先兆。為此，師部作出應戰部署，為爭取主動，一八五團由北站向南洛前進，相機側擊進攻台兒莊之敵。上午10時許，該團先頭第三營行抵劉家湖附近，發現該村東北方向的小鬆林設有敵人炮兵陣地，約有10多門炮正向台兒莊瘋狂射擊。營長高鴻立見狀怒火中燒，氣憤填膺，決心奪取敵炮。高鴻立農民出身，性格剛直粗獷，作戰一向勇猛果斷。當即在麥田裏集合全營官兵，指著那小鬆林說：“你們瞧，轟炸我台兒莊的炮彈都是從那裏發射的。我們要把狗日的那10多門炮奪回來，煞煞鬼子的威風！兄弟們怕不怕死？”官兵們個個心情激動，振臂高呼：“不怕！奪回來，炸掉它！”話音剛落，高鴻立忽地把上身棉衣和襯衫全脫下來，左手握著手槍，右手舉起大刀，赤胸露臂以洪亮有力的聲音喊道：“敢奪炮的，跟我一樣，衝！”霎時間全營官兵全把上衣脫光，端著上了刺刀的步槍，在高營長率領下，向小鬆林衝擊。當時，田間麥秀盈尺，500健兒循畦躍進，出敵不意，刀光相映，頓寒敵膽，敵驚恐萬狀，一麵以步槍向我高營狙擊，一麵拉炮車向東逃遁。高營官兵殺聲不斷，緊追不舍。在此關鍵時刻，突然在北麵出現敵兵坦克車20餘輛，步兵千餘，正向台兒莊疾進，當他們發現其炮兵被我高營追趕時，即轉向高營疾馳而進，我官兵素無對付坦克作戰的經驗，又無炸毀坦克的武器，敵坦克車橫衝直撞，左突右攻，我軍雖憑著殺敵勇敢，但無法抵擋敵人坦克攻擊，部隊被衝散，指揮失靈，官兵各自為戰，與敵短兵相接，刀光劍影，異常慘烈，一八五團王鬱彬團長聞報急率兩營部隊趕來增援。在滾滾的麥浪間，敵我雙方拚殺激烈，不同的喊殺聲，手榴彈的爆炸聲，機槍的叫聲，坦克車的轟隆聲，刺刀的碰擊聲，交織在一起，是台兒莊戰役以來的最為慘烈悲壯的血戰。整個戰鬥持續2個多小時。下午2時，第九十三旅旅長乜子彬率一八一團前來增援，掩護一八五團脫離戰場。傷殘疲憊的敵軍亦趁機退去。“劉家湖戰鬥”敵我雙方傷亡極慘重，我王團長彈穿大腿，張影波等二位營長陣亡，營長高鴻立頭部負傷，連以下官兵犧牲1/2以上。這一戰鬥，我軍雖付出了高昂的代價，但給驕橫狂妄的日軍以當頭一棒，打亂了敵人進攻台兒莊的如意算盤。第二天《徐州日報》頭版頭條以特大號的黑字標題：“活張飛高鴻立率部赤臂殲日寇”，報道了這一消息。
上午10時，日軍向我軍南洛、劉家湖、邵莊陣地全線進攻，我官兵奮勇逆襲、激戰至11時敵益猛攻，我傷亡甚眾，邵莊、劉家湖均被敵衝入，我邵莊梁敬賢營長陣亡。11時半，敵進攻南洛，敵機7架淩空轟炸，12時，我軍退守榆林。
下午，敵集中炮火猛攻台兒莊，北門、小北門被轟塌數丈。同時邵莊、園上敵人約六七百名向台兒莊猛撲，我官兵奮起反擊，殺敵甚眾，敵攻擊更加猛烈。我為打退敵進攻，當令一八一團第三營向台兒莊城西北角側擊園上之敵，以減輕正麵敵進攻壓力。但由於敵人炮火狂轟濫炸，我損傷甚眾。收效甚微。後敵由小北門突入200餘人，在我反擊下被圍於大廟內，王冠五師附督勵官兵內攻外防，全力以赴，終將破口堵塞。後李營入城增援，卒聚殲入侵之敵，生擒4名日軍，繳獲武器多件。我官兵愈戰愈勇，士氣旺盛，喊殺震天，敵氣益餒，逐退入園上，敵人進犯台兒莊又遭慘敗。
當夜，三十一師即調整部署，要旨為：
1.台兒莊守備隊——長王師附冠五、第一八六團附第一八一團第三營及二十七師之張營，應［乘］機收複園上、孟莊，作台莊前進之據點。
2.北站守備隊——長韓團長世俊第一八二團。
3.左翼機動部隊——第九三旅（欠第一八六團）附第一八一團（欠第三營）無線電台，以一部扼守三裏莊，餘位置於彭家樓附近，應不失時機支援台兒莊及北站兩據點之作戰，而側擊敵之攻擊。
4.炮兵隊——炮七團（欠兩營）附重炮一連，以主力指向劉家湖，以一部壓製敵炮兵。
5.工兵營仍位置於土城。
6.騎兵連仍向黃莊集結。①
此次調整，該師目標在於主守台兒莊和北站，這是我軍台兒莊正麵戰場最重要的軍事據點，如果不幸失守，不但我殲滅戰的計劃將難於實現，而且徐州也將受到威脅。因此該師以主要兵力分守各處，敵人來攻時，即左右側擊，決不使其進攻得逞。
26日上午，日軍瀨穀支隊以第六十三聯隊全部兵力轉向台兒莊，在6架飛機掩護下大舉進犯台兒莊，並轟炸南北站，園上之敵在炮火掩護下繼續攻城。城中煙火彌空，北門再被突破，敵再竄入城隍廟（即大廟），該廟成為敵軍據點。該廟係清真寺，俗稱北大寺，位於中正門西南約200米處，清乾隆七年（1742年）阿訇李中和主持興建，占地約3000平方米，建築麵積800多平方米，座西麵東，建有禮拜殿25間，南北講堂各5間，東西小講堂各3間及瓦房、水房，並建有東大門過廳和西門小門樓；整個建築典雅輝煌，具有鮮明的民族特色。清末改建成南門樓，清古寺門牌改稱回教堂。民國初年，阿訇陳性真增建水房6間，1937年馬華亭集資修建，清真寺煥然一新。這時，康法如副師長裹傷督戰，我步工兵猛撲不能下，此門亦難以堵塞，日軍陸續竄入，向東大街蠶食，我守兵塞於巷，拋瓦罐，擲家具，折棟傾牆以堵擊，卒遏製敵之進展。下午6時，敵攻勢始衰，城東亦大部陷敵手。
當台兒莊激戰時，北站之攻守戰亦甚激烈。北站位於台兒莊以西1公裏，為我軍在台兒莊外的重要據點。由韓世俊一八二團堅守之。乜旅長以一八五團向劉家湖出擊，以緩台兒莊之壓迫，但為敵阻，王鬱彬團長負傷督戰。張靜波營長負傷下，擅自脫離戰場，乜旅長在土城將其槍斃。師部乃昭告官兵：“負傷無命而下者殺。師與此共存亡也。”是日我傷亡逾千。
入夜，乜子彬旅長入城視察，勉官兵建功，並語王鬱彬曰：“今城街之守，已屬戰鬥問題，我士氣旺盛，足以當之。君須注意絕火之法，街房屋頂可盡去也，免資敵燃燒，以重我累，則障礙物材不可勝用也，木屑竹頭雜置之。向不忍於民者，今民已盡，任君放手為之。製敵之法，亦惟火攻，可多備棉油彈，著火彎弓以射之。城中油商花行百餘裕矣。巷戰我有力武器，惟手榴彈與迫擊炮彈，及大刀耳，皆敵之所畏，希善用之。至通衢地下，可穴中填瓦罐，以防敵之坑道進攻，聲音響則易備，君須飭部力為之。”王曰：“敬聞命。”①
26日，杜聿明第二○○師炮團奉調配屬台兒莊各部隊參加作戰。該師於1938年1月由裝甲兵團擴編而成。台兒莊戰鬥發生時，該師由意大利購買的戰車（三噸級槍戰車200輛）和蘇聯支援的戰車（五噸級炮戰車87輛）尚未運到。故當時隻有炮兵第五十二團3個營及師直屬步兵炮營1個營，共計4個營。每營有37輛戰車，防禦炮18門。這些都是新式武器，特別是戰車防禦炮，係由重慶五零兵工廠仿瑞士蘇羅通戰車防禦炮製成。炮彈口徑為37公厘，最大射程3000米，每分鍾可連續發射炮彈20發。此炮發射的穿甲彈對坦克和戰車都有較強大殺傷力。該師的4個營，分別配屬於台兒莊會戰各部隊，增強了戰場上的防禦能力。
26日晚，第二○○師戰車防禦炮第五十二團第八連（4門）由開封到台兒莊南站，歸三十一師指揮。該炮連中的一排被派往台兒莊西關屬王冠五師附指揮，以一排於北站占領陣地屬韓世俊團長指揮。各炮進入陣地經試射做好戰鬥準備，我士氣益激奮。
是日，日軍傷亡益重，據日軍台兒莊派遣隊26日發出的電報記載：“戰死約20、負傷120，突入城內生死不明者15。”②
台兒莊中期保衛戰
為殲滅自嶧縣南下協同劉家湖作戰之敵，第二集團軍總司令孫連仲下達命令，決定3月27日拂曉開始攻擊，以剛剛來到前線的第二十七師為主攻部隊。
第二十七師係第二集團軍馮安邦第四十二軍所部，師長黃樵鬆，轄第七十九旅（旅長黃宗顏），第八十旅（旅長侯象麟）、師直屬部隊輜重營、工兵營、通信營及特務連、騎兵連。3月23日，第二十七師開抵徐州以北柳泉、賈汪地區集結。24日徒步向台兒莊前進，下午6時到達台兒莊南站附近。
第二十七師的任務是占領台兒莊右側地區側擊敵人，協助第三十一師確保台兒莊。3月25日，該師長下達命令，第七十九旅集結黃家樓、水晶溝附近地區，為軍預備隊，以第一五八團集結台兒莊南站附近，策應第三十一師，並派遊擊隊一隊在鐵道兩側向北活動。第八十旅集結陶溝橋、上村、雷草■一帶地區，向紅瓦屋屯前進，占領後與第五十二軍取得聯係，派遊擊隊一隊推進至燕子景，對右側警戒。師部駐水晶溝。
3月26日淩晨，第二十七師第八○旅第一六○團占領裴莊、前後彭村、雷草■、燕子景之線，並派遊擊隊一隊由燕子景向敵之左後方極力活動。一五九團策應一六○團對敵側擊。上午6時，日軍步兵數百人，炮兩門、戰車五六輛，由劉橋後移，我一六○團團副鄭雲琦率兵兩連，由裴莊向敵攻擊，敵退入劉橋抵抗。劉橋在劉家湖東南約半公裏，台兒莊以北1.5公裏，是劉家湖與台兒莊東側的一個重要據點。敵占劉橋，劉家湖可保安全；我占劉橋，劉家湖則敵受威脅。敵我雙方均爭奪此地。11時30分，敵步炮向我反攻，鄭團副奮勇督戰，中炮彈犧牲。我進攻部隊之兩連被敵三麵包圍。我官兵頑強抵抗，激戰至下午2時，我軍傷亡甚眾，撤守至後彭村，敵亦不敢追出。劉橋之戰，我傷亡鄭團副以下官兵90餘，斃傷敵130餘。
3月27日，我第二十七師從台兒莊右翼向日軍發起猛烈攻擊，攻擊目標直指劉家湖。午夜1時，二十七師第七十九旅黃宗顏旅長進駐鬥溝，第八十旅侯象麟旅長進駐上村，各部隊均就攻擊準備位置完畢。上午5時，七十九旅開始攻擊，6時攻占裴莊、孟莊，然後集中兵力圍攻劉橋、劉家湖之敵。裴莊在劉家湖以東，孟莊在劉家湖東南，裴、孟、劉三村成三角地帶，我軍官兵異常奮勇，爭先猛進，至7時擊潰劉橋之敵，直接威脅劉家湖日軍。我八十旅於上午5時30分開始向敵進攻，第一五九團郭金榮團長率部奮勇攻擊，9時30分將岔路口、潘墜兩村之敵驅逐，該團之丁營將前棗莊、後棗莊、楊家廟、張樓各村之敵擊潰，並予以占領。同時第一六○團劉營攻克邵莊（在劉橋以東），即將劉家湖之敵包圍，斃敵甚眾，我一六○團董營之兩連亦加入助戰，敵據寨頑抗，炮兵向我連續射擊，坦克數輛往返衝擊，激戰至烈，雙方傷亡均重。下午2時，日軍步騎步五六百，坦克7輛，在猛烈炮火掩護下，向孫莊、前棗莊、後棗莊（均在劉家湖北麵）反攻，我官兵拚戰不退，前仆後繼，毫不退縮，黃樵鬆師長親至雷草■督戰，官兵士氣激昂，敵軍且戰且增，相持至晚7時，戰況漸趨和緩。
日軍以我二十七師攻擊猛烈，即步炮協力猛攻台兒莊城寨。根據孫連仲總司令之命令，我三十一師（附炮七團之一營）之任務，在於扼守原陣地，主力集結於左後方，壓迫敵之右翼，並在我各部開始攻擊時，誘敵深入，使我右翼主力部隊二十七師之攻擊易於奏效。
27日晨5時30分，日軍以重炮10餘門、飛機數架，集中火力向台兒莊進攻，北城垣時有傾塌，大小北門均被擊毀，我官兵死傷甚眾。6時30分，敵步兵六七百人在炮火掩護下向我猛撲，我官兵群情激奮，頑強拚搏，守大小北門之一八一團第三營官兵犧牲殆盡。在坦克掩護下，敵步兵300餘名衝入寨內，當即豎立日旗數麵，勢甚猖獗。我軍被迫向街心區後撤，迅速占據一間民房，繼續抵抗。敵人衝到離團指揮所五六米了，寨內指揮官王冠五連連告急，要求池峰城師長下令退卻。池峰城急得口吐鮮血不止，堅決回答：“不能放棄。”並命令王冠五：“台兒莊是我們的墳墓，堅決頂住，不能撤退，援軍馬上就到。”師參謀主任屈伸也說：“一定要頂住，台兒莊必須保住，即使成了火海，也不能退出，必要時不但我要去，師長也要去。民族戰爭嘛！誰犧牲流血都義不容辭。”隨後池峰城急令師直屬工兵營營長彭定一和騎兵連連長劉蘭齋率部進入台兒莊增援，統歸王冠五指揮。王冠五奉命督率第一八六團第二營據險堵擊，我官兵異常英勇，經激烈戰鬥，終將入侵之敵殲滅大半，拔旗易幟，敵氣為寒，殘敵遁入大廟及碉樓內頑抗。我援兵適時到達，解了燃眉之急。另外，我一八二團二營隨即控製了台兒莊北門兩側，打退了敵人的進犯。這時台兒莊城內敵我各占其半，形成了台兒莊城內外攻防階段。台兒莊街巷全部被炮彈炸毀的房屋所遮掩，全城盡成一片焦土廢墟，白天煙霧蒙蒙，夜晚火光一片，槍炮之聲，不絕於耳，殺敵喊聲，震天動地。我英勇無畏的官兵，正是在這裏與敵人開始了犬牙交錯的巷戰。戰鬥異常激烈。由街市的巷戰，演進為同室而戰、隔牆而戰的“室戰牆戰”。這是台兒莊戰役期間，我英勇官兵創造的人類戰爭史上的一大奇跡。第三十一師某連長於春光談及台兒莊巷戰時說：
敵人仗著猛烈的炮火，到底攻進來一些，於是便發生了巷戰。這次巷戰，不止爭一條小街和一條小路，連一個院落和一間房子，誰也不肯放過。有時，我們爬進一間房子，從牆上挖一個小洞，彼此就拋開手榴彈。莊子裏的房子，一多半都被打平，特別是東北兩麵，雖然剩一點，也是殘破不堪了。我們師長池峰城親自領著我們幹，每營、每連，都連坐，隻有死，誰也不能退。其實，早已打成仇了，叫誰退也是不能退。敵人來多少殺多少……①
《大公報》記者範長江對台兒莊巷戰作了報道，他寫道：
胡營副告訴我們，士兵們在台兒莊爭奪戰中，造成了新的信念。巷戰經驗告訴了士兵們，本日作戰，飛機不如大炮可怕，大炮不如機關槍，而進入街市戰之後，機關槍不如手榴彈，手榴彈又不如大刀了。禹功魁營長也說，士兵覺巷戰有味道，敵人機械化的兵器，不易使用，而我們的長處，在近距離中可以大大發揮，故敵人逾迫近，士兵逾歡迎。
台兒莊巷戰中，因為大家混戰，而且在同一個小鎮內彼此混戰了八天，不能不算是戰爭史上的奇跡。某次，我兵數名守一有樓家［房］屋，大家因為太疲困，就在樓上打盹。樓外的敵軍乃自外掘而入，直至我護牆，將槍自我所作槍口伸入，欲行射擊，突被我守兵覺察，一麵在下麵與之拖槍，一麵自上麵擲手榴彈，敵始逃去。
在許多場合內，敵我僅隔牆而居，牆上掘一槍孔，則彼此共用，拖槍之事，每日總有好幾次，到不能解決時，則我常越牆擲手榴彈，士兵引以為樂。
……
台兒莊戰爭，孫連仲部新兵甚多，不但無一人逃跑，而受傷之後，大家異常興奮，傷兵們都說：“這回打得好！我們的仗打活了！”□（他）們對於攻擊的防禦，感到了興味。①