1938年三月，鬼子為了進犯徐州，在強大炮火和空中火力的支援下首先攻破了藤縣。藤縣作為進攻台兒莊的門戶，自古以來就是兵家必爭之地。
1938年3月16日晨8點，日軍第10聯隊的第1大隊已抵達城下。遙望滕縣縣城高聳，城內有納粹旗幟飄揚，估計是德國教堂所在。滕縣規模宏大，城牆高10米，厚5米，外壕深5米，寬12米，北麵最完備，東麵次之，南麵雖然比較薄弱，但後來日軍從這進攻時，卻是川軍的防禦重點。城東北角約150米有一高30米的喇嘛塔，從此處瞭望，騰縣內外情況一覽無餘，對炮兵觀察十分有利。
上午10時，日軍野炮第一大隊抵達，隨即和駐北平南苑機場的日本陸軍飛行隊聯合轟炸滕縣城，經兩個小時轟炸，城內外共落炮彈三千多發。11時15分，日炮突然向東關寨牆的東南角猛轟，不一會炸開一二米寬的缺口。接著，日軍又用數十挺輕、重機槍猛烈掃射缺口，掩護步兵衝擊。我軍守兵伏伺塌口兩側，嚴陣以待，當五、六十名日兵衝到塌口時，國軍第三七一團一連集中六、七十人，每人握四、五枚手榴彈，同時投向敵群，日軍生逃者不滿10人。日軍不甘心失敗，又連續組織了兩次進攻，都被守軍打退。下午2時許，日軍第3大隊趕到藤縣，從南門進攻，也沒如願，丟下了百餘名屍體，國軍傷亡也很大。張宣武團長不斷派部隊增援，後來激烈時連王銘章師長的特務連也調到東關參戰。下午5時許，敵炮與敵機同時轟炸東關正麵陣地，步兵改用一次三個排，每排相距百餘米，向國軍陣地衝擊。國軍軍英勇頑強，接連打退第一、二兩個排的進攻，日軍第三排又衝上來，於是展開肉搏，雙方傷亡慘重，最後仍有40多名日兵突入關內。此時夜幕已下，日軍未再派兵，國軍又以一連的兵力圍攻日軍，終於全殲這股日兵，東關陣地失而複得。晚上8時許戰鬥停止，隻有日軍的照明彈不時劃破夜空，照得城內外如同白晝。
經過一天的激戰，到晚9時許王銘章師長決心放棄滕縣外城陣地，把第四十一軍所屬部隊全部調進城內，集中兵力防守。命令在大塢、洪町、高廟和北沙河的官兵火速回城。午夜前後，各部隊先後來到縣城。王銘章師長召開緊急會議，重新部署防城，口頭獎慰張宣武團長、嚴詡營長作戰英勇、指揮有方。並命令全軍深溝高壘，多挖防空洞，綁捆雲梯，準備登城迎擊。全體官兵遵令執行，一直忙到天亮。與此同時，日軍也調兵遣將，日本第10聯隊一直希望不破壞內城的情況下占領滕縣，但由於川軍的抵抗意外的頑強，戰鬥處於膠著狀態，特別是城內還有外國人的建築，聯隊有些投鼠忌器。而川軍的核心陣地就設在外國教堂內，最後聯隊長下定決心，由他承擔因為戰鬥引起的國際糾紛。並計劃了第二天的炮擊計劃。敵我雙方準備就緒，一場惡戰即將開始。
1938年3月17日早6點，日軍以五、六十門大炮、二十餘架飛機轟炸，城內外除北關因係美國教堂外，一時硝煙彌漫，牆倒屋塌，街上都被倒塌的建築物堆成一個個小山丘，原來的石板街道被炸成一個個深坑，全城一片火海，遍地都是焦土。兩小時後，日軍開始進攻東關，十餘輛坦克從東寨牆的塌口衝過，後邊緊跟著一排排的日兵。國軍守軍雖英勇堵擊，用集束手榴彈擊毀兩輛坦克，終因敵我雙方兵力懸殊，國軍守軍死傷殆盡而又無法補充，被日軍衝上城角。國軍守城部隊先扔手榴彈，後舉起大刀，躍入敵群猛砍，將爬上城牆的日兵全部消滅，國軍一個連僅存14人，以血的代價奪回了陣地。
下午2時，日軍以12門重型榴彈炮猛轟南城牆，二、三十架敵機狂炸南關守軍。南關守軍被迫轉移到西關外火車站附近。南城牆被敵重炮轟開一個缺口，五、六百日兵在十餘輛坦克的掩護下猛撲南城。國軍軍第一二四師三七○旅旅長呂康、副旅長汪朝廉親臨城牆指揮，均受重傷，守兵死傷殆盡。下午3時半，日軍占領了南城牆。不久，在炮火、坦克的掩護下突入東關，國軍守備東關的第一二四師七四○團團長王麟傷重致死。
當日軍衝進東關時，王銘章師長不顧個人安危，親臨城中心的十字街口指揮作戰。這時，衝上南城牆上的日兵又向西城門樓*近。經過激烈的血戰，到下午5時許西城門樓落入敵手。日兵占領西城門樓後，即集中火力向城中心十字街口掃射。王師長及其隨行無法存身，準備移至西關火車站繼續指揮守城。他命令身邊僅有的一個特務排，向西城門猛撲，被日軍的機槍全部打倒。王師長身邊無兵可派，不得已從西北角縋城奔火車站。王師長一行剛到西關電燈廠附近，不幸被西城門樓上的日兵發現，一陣密集的掃射，王銘章師長和他的參謀長趙渭憲、副官長羅甲辛、少校參謀謝大墉、第一二四師參謀長鄒慕陶以及隨從十餘人，同時為國捐軀。