入夜之前，日軍占領了東、南、西三麵城牆，而東北、西北兩個城角和北麵城牆仍在中國軍隊手中。在北城牆上的守軍，是王銘章師張宣武團的第三營（其中有兩個連已在前一天東關的戰鬥中傷亡殆盡）和其他零星部隊，仍在頑強抵抗，與東、西兩麵城牆的日軍對峙著。日軍不慣夜戰，入夜之後，沒有向北城牆方麵壓迫。占據城牆的日軍也不敢走下進入市內。
夜晚9點，北城牆上的守軍共二三百人，在副營長侯子平、連長胡紹章等人指揮下，扒開了已經閉死的北城門，有組織地逐次掩護突圍出城。北麵圍城的日軍，遠在北關二裏以外，未曾發覺；而東、西城牆的日軍，隻以火力追擊，不敢下城追趕，因而這支二三百人的突圍部隊，得以安全地撤退到後方。但在城內，人自為戰，與大部隊失去聯係的零星小部隊仍在戰鬥，徹夜槍聲未停，直至18日午前，滕縣才算淪入日軍手中。
日軍包圍了滕縣以後，守軍隻有一條可與後方臨城和徐州聯係的通路，而臨城已在17日下午被日軍占領。到後方去的人，出城後向南行。有一支突圍的部隊和傷員共二百多人，在17日的下半夜，走到夏鎮附近微山湖東岸的渡口上候船，因疲勞至極，都睡著了。18日天亮後，突遭日軍騎兵和戰車的追襲，大都被打死或被逼到湖裏淹死。
16日和17日兩天以來，滕縣城關落下三萬多發炮彈。第四十一軍守城部隊自第一二二師師長王銘章以下，傷亡五千多人。在滕縣以北界河與龍山一帶作戰的第四十五軍，自第一二七師師長陳離以下，傷亡也達到四五千人。這次戰役，共斃日軍兩千多人。
滕縣保衛戰自1938年3月14日早晨開始，至18日中午結束，共四天半，計一百零八小時。
在滕縣戰役中，許許多多的重傷官兵，是萬分艱苦地爬出了戰場，或者是由戰友們背扶下了火線。沿途各村鎮的老鄉們熱情地把他們收容、隱藏起來，給他們洗血裹傷，燒茶做飯。等到入夜之後日軍停止活動的時候，有車的就套起車來，沒車的就用門板或小床捆成臨時的擔架，老鄉們爭先恐後地把傷員們運到臨城或者沛縣。張宣武就是受到老鄉們幫助的軍官。
王銘章師王誌遠旅旅部少校副官魯福慶，於18日上午在城內巷戰時被日軍俘虜，日軍把他和其他被俘的二十多名官兵一齊拉到城外的沙灘上，用刺刀一一戳死。入暮之後，附近的老鄉們前去收屍掩埋時，發現魯福慶尚有一絲氣息。他們悄悄地把他抬到村子裏隱藏起來，如同對待自己的子弟一般千方百計地為他治療。這個九死一生的人，竟然一天天好轉起來。兩個月後，傷勢好轉已能行動，老鄉們就派青年人把他護送到後方，展轉到了漢口，回到了自己的部隊。第一二七師師長陳離負傷後也是多虧當地的老鄉們予以掩護，才能脫險回到後方。
日軍瀨穀支隊在占領臨城和滕縣以後，按照磯穀廉介的命令，以福榮第六十三聯隊第一大隊（欠一個中隊）組成右翼隊，向韓莊進擊；以第二大隊為左翼隊，向嶧縣進擊。支隊主力集結在臨城附近。左翼隊於20日占領韓莊，右翼隊於同一天黎明占領了嶧縣。
3月底，當台兒莊會戰快要取得勝利時，第二十二集團軍總司令孫震，懷著一種激動、欣喜、自豪抑或有些悲傷、不平的複雜心情，向國民政府軍事委員會上報了一份《關於滕縣戰役的戰鬥詳報》。在論述“此役所產生之成績及影響”一節中，他這樣寫道：
在滕縣血戰中，我集團以絕對劣勢之裝備抵抗高度機械化敵兵，於極不利於防禦之地形上阻敵銳進，達三晝夜之久，彈盡援絕，繼以白刃，更繼之以拳，複繼之以齒，終繼之以血，以頭顱，以達成鞏固津浦北段，保障徐海，爭取餘裕時間使友軍得以從容布置之任務。雖犧牲殆盡，亦不稍顧。則中國軍隊戰鬥意誌之堅強，奉行命令之徹底，官兵之視死如歸，可謂超今逾古，罕有其匹，而死事之烈，報國之忠，雖與日月爭光可也。
滕縣血戰達到拘束敵人之目的。若無滕縣之血戰，則湯、孫兩軍不能於臨城、台兒莊從容布置；湯、孫兩軍若布置未成，則運河危，徐州殆，焉有台兒莊之大捷?敵軍若不受挫台兒莊，徐州必被一鼓而下。徐州既失，隴海路不保，則武漢亦失陷，武漢之失陷，影響於國人抗戰意誌之至大，而各種軍事計劃設施等亦必隨之瓦解，其危險豈堪想象!故人謂之滕縣之役，乃保證抗戰勝利之表現，實不虛也。
我軍於滕縣浴血苦戰，雖勢力懸殊，然能取得同等代價，而將磯穀部隊之銳氣消磨殆盡；此役結果，影響所及中國軍隊自南京退卻後幾將不振之士氣，為之複活。反之，敵軍不可一世之驕妄氣焰為之挫戢。爾後磯穀所部之徘徊韓莊、台兒莊運河線上，遲遲不進，能不謂為非受士氣消沉之影響也……
為表彰王銘章將軍，４月６日國民政府追贈其為陸軍上將。全國各界特別是四川民眾組織了盛大的悼念活動。
抗戰中頗有聲望的《掃蕩報》發表了《滕縣血戰的印象》，其中第二段載：
在這短短的幾天滕縣血戰中，有很多驚天地、動鬼神的故事，值得我們正視，值得我們泣訴!如一二二師師長王銘章、參謀長趙渭濱、副官長羅世澤；一二四師參謀長鄒紹孟、傅哲民均已盡忠職守、為國捐軀了。未出城之兩師官兵，仍利用城內的破壁頹垣，與敵抗拒。據我飛機報告，至18日午後猶與敵在城內混戰中。當城破的時候，所有受傷官兵、未逃出城者，約千人左右，均以步槍或手榴彈與敵拚命或自殺，無一生還。抗戰之烈，死亡之勇，前所未聞，實開守土殉城之先例。
幾乎與此同時，在距滕縣一百二十公裏之外的徐州第五戰區長官司令部裏，李宗仁接受了一批中外記者采訪。他操著桂林口音，緩緩說道：
“從15日起，敵人衝破界河南竄，以數萬之兵，經北沙河、東沙河，迫近滕縣城猛攻。我一二二師師長王銘章中將，揮軍血戰，城外堡壘盡毀，即繼以守城，城破繼以巷戰，十蕩十功。直至18日午後，王師長以下全師殉城，至為慘烈。城破以後，除有機會跳城歸隊者外，其中城中殘留官兵，均戰至最後，以手榴彈自戕，無一被俘投降。奉命之忠，死事之烈，克以保障徐淮，奠定抗戰之基，睢陽之後，一人而已……”
李宗仁的一席話引起在場中外記者強烈共鳴。在場的記者就有一位西方記者流出了感動的淚水。她就是後來聞名中外的安娜·路易斯·斯特朗。她在自己的文章中這樣描寫自己的感受：
太偉大了，這些黃皮膚的中國兵實在了不起！今天我才真正懂得，要征服這樣一個倔強民族是不可能的，盡管，他們也許還要經受一百次的大轟炸、一千次的大屠城、一萬次的大磨難……
中共領導人毛澤東、秦邦憲、吳玉章、董必武等人聯名題詞：
奮戰守孤城，視死如歸，是革命軍人本色；
決心殲強敵，以身殉國，為中華民族爭光。
川軍以驚天地、泣鬼神的悲壯犧牲震驚中外，寫下了川軍戰爭史上最為輝煌壯麗的一頁。第一二二師師長王銘章前言必踐，率自己的三千名川軍子弟兵用生命為李宗仁贏得了四天寶貴的時間，為台兒莊大捷鋪平了道路。正如李宗仁後來在其回憶錄中指出的那樣：
若無滕縣之死守，焉有台兒莊之大捷？台兒莊之戰果，實滕縣先烈所造成也。
對於川軍在滕縣血戰中的表現，連蔣介石也大為驚訝、不解，曾酸溜溜地對李宗仁說出了一句頗耐人尋味的話：“你還能指揮地方部隊？”
李宗仁極其欣慰、自豪。他堅定了自己的信條：世間無不可用之兵，隻有不可為之將。
李宗仁就這樣把一支裝備低劣、東拚西湊的雜牌部隊整肅為一支頗具戰鬥力的勇猛之師。他已經創造了奇跡，就像是一夜間把一群遊離散亂的綿羊變成了一隊隊透著凶悍的威猛無比的惡虎。
蔣介石和李宗仁調兵遣將，為磯穀師團布下陷阱。
磯穀廉介的第十師團攻占滕縣以後，又攻克臨城，已經到達日軍大本營給華北方麵軍劃定的南下禁止線。但是，磯穀廉介敢於違反這個規定，因為他根本就不把中國軍隊放在眼裏。他所率領的第十師團，是一支重裝備的機械化部隊，又擁有空軍協同作戰的能力。而且，他判斷李宗仁手邊的部隊不足，可以調動的部隊，已經先在右翼臨沂一帶與板垣師團纏上了，所以他決心大膽深入，越過臨城與棗莊前線，準備直搗徐州，一舉攻占中國軍隊第五戰區司令長官部，為自己建立一個顯赫無敵的戰功。所以他率部全速南下，根本無視大本營給日軍在山東南部作戰設定的限製。
3月17日，磯穀師團在攻占滕縣後，不顧其左翼板垣師團被阻，也不待蚌埠方麵援軍北進呼應，孤注一擲地南下。這時候，磯穀廉介麵臨兩個選擇：一個是從滕縣直下徐州，一個是向東南撲向台兒莊。但他選擇了後者，因為他畢竟還是擔心自己的部隊在直撲徐州的時候，遭到中國軍隊的側擊。於是，他決定先去消滅集結在台兒莊的中國軍隊。
但是，磯穀的參謀長梅村篤郎大佐，對於第十師團孤軍深入台兒莊，仍然有所顧忌，便向磯穀進言：“將軍，孤軍深入，乃兵家之大忌呀！”
“支那軍隊，不堪一擊!”磯穀不屑一顧地說，“王銘章怎麼樣？夠硬的了吧？最後還不是被我全部消滅了？”
此時的磯穀廉介，變得驕狂無比，除了台兒莊，眼前已沒有中國軍隊的阻力了，迫不及待、不顧一切地要把屠刀砍向台兒莊。尤其是得知兄弟部隊板垣師團在臨沂戰敗而不能南下台兒莊會師時，他更是衝動異常，當即決定：揮師南下，迅速攻占台兒莊！他不僅要獨占台兒莊和徐州，而且企圖一直打過淮河，奪取打通中國南北戰場的赫赫戰功！
3月20日，磯穀師團的右追擊部隊攻占韓莊，隔運河與中國守備部隊對峙，左追擊隊攻占了嶧縣。這時候，山東南部戰局的重心，移到了左翼的津浦鐵路。西尾壽造也曾考慮是讓磯穀師團繼續從津浦線南下，直撲徐州，還是向東南展開，奪取台兒莊，突破運河防線，再西取徐州。他經過慎重考慮，同樣決定放棄前者而選擇後者，這是因為：
第一，津浦路正麵韓莊以南，山地重重，不利於進攻作戰，且僅沿鐵路一線，長驅直下，其點、線易受側麵中國軍隊的攻擊，而津浦路東麵的棗莊、嶧縣至台兒莊一帶，地勢平坦，利於機械化部隊展開。占據了這一地帶，可以對津浦路南下的日軍起側翼掩護作用，同時也為進攻徐州做好了準備。
第二，此時沿台濰公路南下，欲與磯穀師團對徐州取分進合擊態勢的日軍第五師團阪本支隊在臨沂受阻，無法按期南下。磯穀師團攻擊台兒莊，可以策應第五師團的作戰。
西尾壽造向磯穀廉介講述了自己的意思，並令磯穀師團瀨穀支隊分出一部分兵力向臨沂方麵增援。據此，磯穀廉介命令瀨穀啟：“必須確保韓莊、台兒莊運河一線，並警備臨城、嶧縣，同時應以盡可能多的兵力向沂州方向突進，協助第五師團戰鬥。”
瀨穀啟接到命令後，對部隊行動方向作了如下部署：
一、停止韓莊方麵的推進，以第十聯隊一部，配屬炮兵等，作為韓莊守備隊，守備於韓莊附近，運河一線。
二、以第十聯隊第二大隊為基礎組成沂州支隊，從臨城出發，向沂州方向前進，策應阪本支隊作戰，第十聯隊主力集結於臨城。
三、第六十三聯隊配屬炮兵等，以主力集結於嶧縣，確保台兒莊附近運河之線。
四、支隊司令部及直屬部隊集結於棗莊、嶧縣附近。
這樣，南下的瀨穀支隊主力在臨城便掉頭向東，伸展於棗莊和嶧縣附近。
中國方麵，軍事委員會從戰略上認為，徐州會戰十分重要。中國軍隊在平津撤退，在淞滬失利，丟失了首都，對全國民心士氣影響很大，再也不能失敗了。所以，必須加強第五戰區的防禦兵力。於是，軍事委員會緊急檄調第一戰區駐河南補充訓練尚未完成的湯恩伯第二十軍團和孫連仲第二集團軍，星夜增援。
首先抵達的是湯恩伯軍團，轄兩個軍，即關麟征的第五十二軍和王仲廉的第八十五軍，共計五個師：鄭洞國的第二師，張耀明的第二十五師，陳大慶的第四師，張雪中的第八十九師，張軫的第一一零師。這個軍團裝備齊全，並配有十五厘米的重炮營一個，是中國軍隊中的精華。
1938年3月，關麟征的第五十二軍奉令開到安徽北部的阜陽集中，歸第五戰區司令長官李宗仁指揮。在阜陽集中待命期間，關麟征得知，在淮河以南的壽縣和蚌埠一帶，駐有李品仙指揮的廣西部隊，準備對沿津浦鐵路由南向北進犯的日軍作戰。在津浦路北段的鄒縣和滕縣等處，駐有孫震指揮的四川部隊，防止日軍從津浦鐵路向南進犯。在臨沂駐有張自忠和龐炳勳的部隊，防止日軍沿膠濟鐵路從濰坊進犯。
3月16日，關麟征軍又奉命開到津浦鐵路運河以南的利國驛集中待命。20日，關麟征軍在利國驛集中完畢。
20日下午，湯恩伯來到關麟征軍軍部。他一見到關麟征，就說：“我是來搬兵的。我看到你們兩個師人強馬壯很高興。咱們兩個軍合起來一定能打個大勝仗。”他又說，王仲廉的第八十五軍原擬向臨城前進，支援孫震的第四十一軍作戰，結果由於臨城和棗莊已經失守，他已命令王仲廉軍據守棗莊東北山區，等待關麟征軍到達後，再向棗莊方麵攻擊前進。接著，他命令關麟征軍於21日從利國驛出發，經台兒莊和蘭陵鎮，向向城集中，然後會同王仲廉軍攻擊棗莊的日軍。在從利國驛開赴向城的途中，湯恩伯一直隨關麟征軍的軍部行動。
跟隨在湯恩伯軍團之後到達徐州的是孫連仲集團軍。這個集團軍名義上轄有兩個軍，即田鎮南的第三十軍，和馮安邦的第四十二軍，但由於這兩個軍曾參加山西琉璃河與娘子關的兩次保衛戰，損失很大，第四十二軍所剩無幾，隻等於一個空番號。後來調許昌一帶整補。孫連仲派人到山東西部與河南東部招募兵員。他還吸收了從河北保定一帶敵戰區流亡出來的青年學生，並設立了一個幹部訓練所，為自己的部隊培養補充了一批幹部。但因戰事吃緊，整補非常匆忙，所以該集團軍實際上可以參加戰鬥的隻有三個師另一個旅，即黃樵鬆的第二十七師，張金照的第三十師，池峰城的第三十一師，和吳鵬舉的獨立第四十四旅。總兵力約為二萬四千人。
池峰城的第三十一師，附吳鵬舉的獨立第四十四旅，受命在徐州以西的楊樓車站附近集結待命。副師長屈伸率隊先行。當列車運行到商丘以東的某車站時，屈伸接到鐵道運輸司令的電話，傳達李宗仁的命令：“三十一師部隊繼續開赴台棗支線車輻山附近集結待命，不得違誤，違者以軍法從事。”屈伸和已經到達楊樓車站的先頭部隊的部隊長乜子彬旅長通了電話，要他們遵命繼續前進，囑咐他到徐州長官部了解情況，並指示他在部隊先頭到達，以便有時間掌握情況。
屈伸於3月19日午夜到達徐州車站，立即去晉見李宗仁，報告第三十一師的戰備情況。他同時呈送了人員、馬匹、武器、器材、彈藥數量表，以備緊急領發。李宗仁一一點頭，隨手把材料交給幕僚，並囑咐即刻補發或轉告兵站備查補給。
李宗仁在作戰地圖上給屈伸指示當前敵我的態勢，對他說：“魯南突出冒進之敵約一師團，勢甚猖獗，有進窺徐州之模樣。貴師到車輻山之後，先接替張軫師韓莊至台兒莊沿運河防線，爾後向嶧縣之敵攻擊前進。敵如出而迎戰，貴師應盡力堵擊，迨湯恩伯軍團進擊敵側背全力壓迫敵人於微山湖畔聚而殲之；敵如固守待援，貴師應盡力牽製，監視敵人，掩護關麟征軍北上與王仲廉軍協力包圍攻擊，殲滅棗莊之敵，再回師合擊嶧縣之敵，將戰線推進到兗州以北，為了協同方便，貴師即暫歸湯軍團長指揮。”
屈伸接受指示後，戰區參謀處便將各項密封交給他受領。李宗仁還把他指揮室僅有的一份五萬分之一的地圖交給屈伸使用，並再三地說他因為時間緊迫，不能與官兵見麵，請屈伸代他致以慰勞之意，等會戰結束後，他再為官兵祝賀。
當時，張金照的第三十師在河南汜水駐防，擔負守護黃河大堤的任務。孫連仲給張金照發去急電，要求第三十師日夜兼程開赴徐州，作為總預備隊，直接由李宗仁調遣。張金照到達徐州以後，馬上到車站西邊的第五戰區司令長官部向李宗仁報到。李宗仁指著軍用地圖對他說：“敵人約有五六萬人，是強有力的部隊，企圖沿津浦路向南推進，采取速戰速決的辦法侵占徐州。我們的整個任務是保衛徐州，因此必須將敵人消滅在徐州外圍。第二集團軍的任務是在台兒莊阻擊敵人，待湯恩伯軍團側擊成功，然後共同將敵人壓入微山湖而加以消滅。”李宗仁要求張金照師做好準備，聽候命令行動。
就這樣，孫連仲集團軍到達徐州以後，立即被調到台兒莊北部布防，構築工事，以阻擋日軍南下。這支部隊是馮玉祥的西北軍，紀律嚴明，最善於防守。
在台兒莊戰役中，中國軍隊還投入了廖磊第二十一集團軍五個師，李品仙第十一集團軍三個師，郭勳祺第五十軍兩個師，第二十七軍團兩個師，龐炳勳第三軍團一個師，盧漢第六十軍三個師，周喦第七十五軍兩個師，劉汝明第六十八軍兩個師，鄧錫侯（孫震）第二十二集團軍四個師，總兵力約三十多個師，據守在台兒莊附近的就有二十五個師，約有二十五萬人，與日軍的兵力比較為五比一，中國軍隊占絕對優勢。
屈伸於20日淩晨到達車輻山，立即下達命令：“師主力集結於車輻山附近，以第一八六團接替台兒莊防務，第一八二團接替台兒莊北車站防務，獨立第四十四旅接替頓莊閘至韓莊之守備任務。”
張金照師在徐州駐紮了幾天，孫連仲說陣地在逐漸擴大，兵力不敷調配，向李宗仁要求將第三十師歸還建製。於是張金照率部開赴台兒莊前線。張金照師到達台兒莊時，池峰城師已經奉命出動，向嶧縣的日軍發起佯攻。黃樵鬆師和張金照師到達宿羊山車站後，池峰城師便解除了對吳鵬舉旅的指揮。黃樵鬆師和吳鵬舉旅在台兒莊右翼黃林莊附近占領陣地，張金照師在台兒莊左翼頓莊閘附近占領陣地，掃清射界，防守待敵，以確保池峰城師兩翼的安全。