龐炳勳再次告急，張自忠軍不得不星夜從費縣回師臨沂。
3月25日，日軍分三路向臨沂猛攻，一路由沂河西岸南侵，直撲董升堂旅防地；另一路沿公路向西進攻第四十軍防地；再一路由太平經相公莊，轉向西進，攻擊守軍的側背。第四十軍官兵奉命愛惜每一粒子彈，日軍不進入有效射程，決不開槍。日軍開始以為守軍潰逃了，便放大膽子慢騰騰地在泥地上蹣跚前進，忽然一聲號響，萬槍齊發，日軍才慌了手腳，陣地前倒下一片屍體。
但是，龐炳勳軍損失兵力過重，防守九曲店、小李莊、石埠嶺和黃山之線，感覺非常吃力。
同一天下午，張自忠軍先頭部隊劉振三師正在回援路上，於臨沂城北的毛家莊和北道一帶村莊與日軍遭遇，當即發生激烈的戰鬥。張宗衡旅的官兵不顧犧牲，在毫無憑借的情況下，浴血奮戰，前仆後繼，向日軍猛撲，消滅了一部分日軍，殘餘的日軍向朱塢方向退去。於是，劉振三師占領了南道、北道、紅埠寺、營子、盛莊、古城等村鎮。
張自忠軍後續部隊黃維綱師回援到北十裏堡、西北園、宋家王莊一帶，也與日軍展開野戰。這時，軍部推進到了杭頭、中石埠一帶，指揮兩個師在城西和城北作戰，策應龐炳勳軍守城。
作戰中，黃維綱師傷亡很大，並且沒有預備兵力。黃維綱在電話裏向張自忠求援。張自忠說：“你們要堅決頂住！我們困難時，敵人更困難。要堅持最後五分鍾！我已命令劉師長派一個團從諸葛城向敵人左側猛攻，支援第一一二旅方麵作戰，不久即可到達。”
黃維綱說：“問題是正麵隊伍有頂不住的樣子，眼下這裏實在沒有人可調了。”
張自忠說：“沒有人嗎？為什麼還有人說話？”
張自忠讓黃維綱碰了一個大釘子，但他知道黃維綱作戰一向很沉著，要不是情況緊急，是不會輕易求援的。於是，他放下電話之後，立即命令手槍營及第六七六團第二營馬上隨他出發。他親自率領這支隊伍向黃維綱師的師部跑去。到達南道、北道小高地後，他用望遠鏡觀察敵我情況，不料被日軍發現目標，許多炮彈紛紛落在他的周圍。他依然很鎮靜地仔細觀察。經過和黃維綱及楊幹三商量後，他立即做出決定：以進為守，用全力向日軍反攻。部隊執行了他的命令，挫敗了日軍的攻勢，形勢趨於緩和。
張自忠派出一支部隊，占領了朱高、古城、南曲坊一線。當天下午，又以幾個團的兵力渡河占領桃園。
26日早晨，張自忠軍攻擊三官廟，損失極大，停止進展。下午，獨樹頭方麵的日軍向桃園反撲。同時，營子、乾沂莊、沙埠莊也發現一千多人的日軍步兵和炮兵，正沿著臨沂至費縣的公路向臨沂逼近。張自忠又派一支部隊阻擊這股日軍。
這時，城西的日軍距臨沂城隻有十公裏，又得到四五千人增援，兵器彈藥充足。臨沂城處在日軍火炮的有效射程之內，張自忠軍的軍部位於古城，也受到義堂方麵日軍的威脅。在這種艱危的形勢下，張自忠軍的黃維綱師和劉振三師在城外與日軍野戰，協同十分得力，多次向日軍發動攻勢，使日軍無法靠近臨沂城，更不能從城西北通過，向台兒莊增援。
日軍見攻城不下，便以全力從大嶺、艾山前以西等地，從守軍側麵繞道向台兒莊方向前進，都遭到劉振三師的截擊，使板垣和阪本的部隊在臨沂附近遲滯了四天，未能達到如期增援台兒莊的目的。
龐炳勳軍得到張自忠軍的增援，又堅持了兩天，因守軍傷亡過重，陣地多處被突破。雖然多次與日軍肉搏，還是未能恢複。3月27日，不得不放棄主陣地，退到沂河大橋東堍。
這一天早晨7點，日軍開始向古城、南沙埠、小嶺和北道攻擊。到28日，又增加一千多人，用飛機和十幾門炮轟炸，村中房屋全部著火，煙焰彌漫，前所未有。經過兩三小時的激烈戰鬥，日軍搶占了古城寨西的兩個大院。其中的一個大院裏滿是高粱秸和穀草，崔振倫團的團附張世楨和連長宋再光、杜巍然等人，將整捆的秫秸點上火，投進日軍占領的柴火院。士兵們看見官長們的行動，也用擲彈筒和手榴彈向日軍轟擊，引起熊熊大火。在這同時，士兵們將院牆推倒，群起衝鋒，將日軍趕走。劉振三師部分守軍血戰兩晝夜，全部壯烈犧牲。
臨沂西南的朱陳鎮，在張自忠軍的背後，日軍先已占據此地，對張自忠軍是一個重大的威脅。張自忠軍調集了差不多半數的兵力，集結在湖西崖，向日軍進攻。激戰多次，都未成功，龐炳勳軍也來助戰，還是未能攻克。有一次，夜襲奏效，天亮後日軍又發動進攻，崔振倫團的一營人犧牲過半。
就在28日這一天，張自忠和龐炳勳得知繆瀓流第五十七軍奉第五戰區命令，在海州方麵派出王肇治旅增援臨沂，歸張自忠指揮作戰。另有湯恩伯部的一個騎兵團，也趕來增援。張自忠和龐炳勳決定於30日拂曉出其不意實行反攻。張自忠將援軍到來的消息通知全軍，並給張宗衡一個手令：一，援軍今夜準到，務望再撐五小時，即有轉機。這個時期就是最後五分鍾，我弟之苦撐，如所深知，按前幾天之戰事，與團體有極大之功勳。這兩天之經過，又如此拚命，實在不能不為國家、為團體感佩。望再接再厲，以竟全功。二，戰鬥已到最後關頭，看誰能忍受最後一分鍾，誰就能成功。三，我困難，敵之困難更大；我苦戰，敵之苦必數倍於我。望率所部支撐眼前這一極短時間。
在張自忠訓勉砥礪之下，全軍堅持苦戰。為了縮短戰線，在七德、韋家屯、前後崗頭一帶占領陣地。雖然損失嚴重，但全軍上下，鬥誌不衰。激戰到3月29日，張自忠在給李宗仁的電報中表示：
職軍兩日以來傷亡兩千餘人，連前此傷亡達萬餘人。職一息尚存，決與敵奮戰到底。
這一天，援軍到達，又重新部署，全線出擊。反攻部隊將日軍截斷為兩部分，日軍主力被迫向北潰退，中國軍隊乘勝追擊。戰到3月31日，日軍大部分退向東北，一部退向湯頭。另有一部分日軍竄入臨沂西側的朱陳，閉寨困守。這樣，中國軍隊取得了第二次臨沂戰役的勝利。
臨沂戰役，第五十九軍及第四十軍以傷亡一萬餘人的代價造成日軍第五師團傷亡約四千餘人，挫敗了日軍攻占臨沂的企圖。有資料說：“日軍以載重汽車運回莒縣屍體約一百餘車。敵在湯頭、葛溝屢次焚化屍體，來不及運回者、就地掩埋者達七八百具。”這是該師侵入中國以來，繼平型關受挫後遭到的第二次嚴重挫折。日軍第五師團從3月3日發起臨沂作戰，苦戰到月底，仍未能越雷池半步，這對於日本“鐵軍”來說，實在是太難堪了。板垣征四郎寢食難安，惱羞成怒，幾欲自殺。
通過臨沂戰役，第五戰區砍斷了津浦路北段日軍的左臂，穩定了第五戰區的局勢。這次戰役不僅打破了日軍的作戰計劃，而且遲滯日軍行動達一個月之久。最後迫使板垣師團殘部繞道蘭陵和向城，會合津浦路南下的日軍磯穀師團，與中國軍隊展開台兒莊戰役，促成了中國軍隊在台兒莊會戰中圍殲孤軍深入的日軍部隊的契機。
還值得一提的是，龐炳勳的“雜牌軍”打敗日軍王牌軍，一戰成名，贏得各方高度讚賞。
特別是張自忠以其卓越表現，徹底洗刷了他抗戰前期的屈辱。3月30日，軍事委員會軍令部致電李宗仁指出：“張軍堅忍抗戰，斃敵累累，希傳諭慰勉。”同一天，國民政府以張自忠建樹奇功，特頒令撤銷對他的“撤職查辦”處分。這樣，張自忠就由第五十九軍代理軍長而成為名副其實的軍長。4月上旬，第一集團軍番號撤銷，集團軍直轄部隊分撥張自忠、馮治安、劉汝明、石友三各部。其中姚景川的騎兵第十三旅劃歸第五十九軍。至此，原第二十九軍部隊完全被拆散，宋哲元將軍專任第一戰區副司令長官。4月8日，姚景川旅及中央軍李仙洲第九十二軍第十三師開抵臨沂，歸張自忠指揮。4月13日，張自忠升任第二十七軍團軍團長，轄第五十九軍和第九十二軍，這是後話。
第五戰區在悲壯地丟失滕縣的同時，龐炳勳、張自忠部在臨沂卻取得了自八路軍平型關大捷之後的第二個輝煌的戰績。戰後，李宗仁在評價臨沂戰役時指出：“臨沂一戰，津浦北段敵軍左臂遂為中國軍隊砍斷，敵兩路會攻台兒莊計劃，遂為我所破。”
軍事委員會獲悉臨沂大捷，特派軍事參議院院長陳調元代表到臨沂慰勞，親眼看到繳獲日軍的戰利品堆積如山，非常欣悅。所以，蔣介石在賀電中說：“開抗日勝利之先河，振國軍之士氣。”所有參戰官兵，都引以為榮。
川軍士氣高漲，誓與滕縣共存亡。
前麵說到，由於韓複榘不戰而退守山東西南部，導致津浦線正麵空虛，日軍迅速進入山東南部。滕縣以北的鄒縣，已被日軍占領。敵我雙方相持於鄒縣、滕縣之間。這樣，滕縣成了津浦線北段徐州北麵的抗戰重鎮，在徐州保衛戰中占據重要戰略地位。而擔負守備滕縣的中國軍隊竟然是名不見經傳的雜牌軍——川軍第二十二集團軍。
幾十年來，與世隔絕的四川盆地養育著從不出川的川軍。但當1937年“七.七事變”爆發，全國各地的部隊都奔向抗日戰場時，駐紮在遙遠而寧靜的四川省的川軍，也被胸中一腔中國人的豪情鼓蕩得熱血沸騰。四川省主席劉湘雖以圖謀自保、擁兵自重聞名全國，但也絕不願在抗日這件事上給蔣介石一個收拾川軍的借口。於是，在四川人民的強烈要求下，川軍將領劉湘、鄧錫侯、李家鈺等，紛紛致電國民政府，請纓殺敵。
蔣介石任命劉湘為第二路預備軍總司令，轄兩個縱隊，第一縱隊正副司令為鄧錫侯和孫震，下轄孫震第四十一軍、鄧錫侯第四十五軍和李家鈺第四十七軍。第一縱隊(後改稱第二十二集團軍)經川陝公路開赴抗日前線。第二縱隊正副司令為唐式遵和潘文華，下轄唐式遵第二十一軍、潘文華第二十三軍。第二縱隊(後改稱第二十三集團軍)順長江東下至武漢。此外，川軍第二十軍由軍長楊森率領，從貴州出發支援淞滬抗戰。從1937年9月起，川軍前後組織了十二個軍，共三十萬人，分批出川投入抗戰。其中，第一縱隊鄧錫侯集團軍的幾萬川軍腳穿草鞋，身著單衣，進入北國的嚴冬之中。鄧錫侯集團軍還沒上戰場，卻首先碰到了大自然的考驗。寒冷、饑餓中，沒有人抱怨，沒有人喊苦。誰要是嚷著要回四川，便會立刻招來無數雙白眼，一大堆奚落：沒出息的東西，滾回去吧，別給四川人丟臉。
十萬川軍在晉綏軍和中央軍的潰潮中逆流而上，來到了山西抗日前線。大自然的嚴酷沒能打垮這些精明矮小的四川漢子，但世道人心卻使他們寒透了心。川軍出川，比不上蔣介石的驕子中央軍，又是卡車，又是人力地運送軍需物品。他們的軍需補給都得自己就地解決，槍械彈藥的更換、補充更無人問津。幾萬大軍得首先給自己找口飯吃，找件衣穿。當麵對天之驕子的中央軍和地方土皇帝晉綏軍那一雙雙鄙夷的目光，他們覺得自己就像乞丐，在遭著冷眼向麵前的富翁伸手乞討，這令自我為王數十年的川軍忍無可忍。
川軍終於被激怒了。隻要能弄到糧食、衣物，他們便顧不得那麼許多清規戒律，連買帶搶。潰退時，遇到軍械庫也砸開大鎖，擅自補給。一時間，山西是連潰敗帶自擾，烏煙瘴氣。
第二戰區司令長官、山西的土皇帝閻錫山，一個電話打到武漢軍委會，控告川軍抗日不足，擾民有餘，簡直是一群土匪。請軍委會令川軍立刻走人，第二戰區養活不起。
蔣介石聞報極為憤慨。想當初劉湘幾次請纓抗戰，要求出川，又是發誓，又是保證。可今天仗沒怎麼打，狀倒先告來了。以他的本意，他真想好好收拾收拾這支地方雜牌。可眼下國民黨軍新敗於上海和南京，正值用人之際，川軍這麼大股力量不用確實不妥。再說讓他們繼續回川稱王稱霸，那更不能容忍。思前想後，蔣介石還是咽下了這口氣，吩咐侍從室主任林蔚道：
“第二戰區不肯要，把他們調到一戰區去，問問程長官要不要。”
誰知程潛一聽是川軍，就像是遇到洪水猛獸一般，不待林蔚說完，就在電話裏一口回絕道：“不要，不要。連閻老西都不要，你們還往我這兒推，我不要這種爛部隊。”
蔣介石一氣之下，聲稱要將鄧錫侯集團軍統統趕回四川。
眼看乘興出川的鄧錫侯集團軍成了沒人要的抗戰棄兒，即將敗興而歸，準備挨家鄉父老責罵之時，李宗仁的老鄉——總參謀長白崇禧給蔣介石進言：“可否問問李長官，看五戰區要不要這股川軍？”
當白崇禧打電話征求李宗仁意見時，李宗仁慷慨應允：“隻要打日本，再爛的部隊我也要！”就這樣，鄧錫侯集團軍來到了第五戰區。
鄧錫侯、龐炳勳、王銘章等川軍高級將領，事後知道了事情的原委，對李宗仁的知遇之恩感激不盡。內心深處，他們也絕不願就這麼落魄地回去，那豈不是丟盡四川人的臉麵！
在李宗仁這方麵，這支川軍的到來，正好解了燃眉之急。這位司令長官正愁手上兵力薄弱，川軍剛好增加了他的力量。他曆來堅信：世間無不可用之兵，隻有不可為之將。隻要長官處事公正，體貼部下，將士是會用命殺敵的。
李宗仁決定為這支川軍辦一些實事。他在徐州會見鄧錫侯和孫震時，問他們有什麼困難需要解決。這兩位正副總司令異口同聲說，槍械落後，子彈太少。李宗仁一再向軍委會請求，為川軍補充槍械彈藥，戰時暫緩撤並川軍編製。不久便撥給他們新槍五百支，每軍各得二百五十支。李宗仁又從第五戰區庫存中，撥出大批子彈及迫擊炮，交兩軍補充。這使出川以來一直飽受歧視的川軍將領感激涕零，將士深受鼓舞。並積極請戰，要以實際行動殺敵雪恥，報效李宗仁以及家鄉父老。
李宗仁決定將滕縣保衛戰的艱巨任務交給鄧錫侯集團軍。
這個集團軍在出四川之前，分駐成都西北地區。所轄的孫震第四十一軍和鄧錫侯第四十五軍，都是乙種軍編製，即每軍兩個師，每師隻有兩個步兵旅，每旅兩個步兵團，沒有任何特種兵。整個集團軍隻有四萬多人，武器窳敗，裝備陳舊，主要武器是四川土造的七九步槍和大刀、手榴彈，輕重機槍和迫擊炮數量很少，而且也是四川土造的。至於重兵器，如山炮和野炮，根本沒有，更不用提高射機槍和戰車防禦炮這些特種兵器了。在一支四萬多人的部隊裏，竟然沒有交通、通信、補給、衛生等各種裝備器材。
鄧錫侯集團軍在出川抗戰之前，曾經要求蔣介石更新武器裝備。蔣介石在回電中說：
前方緊急，時機迫切，可先出發，途經西安，準予換發。
1937年9月5日，鄧錫侯集團軍開始徒步出川北上。10月上旬，先頭部隊剛剛到達西安，就接到指令，急行軍向東開進，過潼關，渡黃河，到太原加入閻錫山第二戰區戰鬥序列。部隊沒有補充任何武器裝備，就投入戰鬥。從10月下旬到12月上旬，在山西東南部與日軍周旋了四十多天，損失慘重，傷亡過半，兩個軍四個師沒有一個完整的建製。
鄧錫侯集團軍在戰鬥中打得七零八落，不得不於12初在離石和趙城一帶進行整編，將每個旅原有的兩個團合編為一個戰鬥團。這樣一來，每個軍名義上有兩個師，實際上隻有一個師兩個旅，全集團軍實際上隻有八個團，總兵力不過兩萬來人。
這時候，韓複榘率領第三集團軍在山東不戰而退，相繼棄守濟南、泰安和兗州，津浦鐵路北段告急。根據軍事委員會的命令，鄧錫侯集團軍於12月底從第二戰區山西東南部戰場調到隴海鐵路東段的商丘、碭山、單縣和徐州一帶，歸李宗仁第五戰區指揮。
第四十五軍的部隊搭乘火車，到安徽北部的碭山下車，開往山東的金鄉、魚台作預備隊。正在慶祝新年的時候，住在金鄉城附近約十多裏一個村莊的王士俊師盧濟清第三七三旅姚超倫第七四五團，忽然奉命開拔。第五戰區司令長官部要求他們不分晝夜，渡過微山湖，趕赴臨城（即今天的薛城）布防。經過實際偵察，微山湖湖麵寬，渡船又少，一團人渡過需費一天的時間，不如從黃口車站搭火車到臨城迅速。報經長官部批準，姚超倫團夜間急行軍，拂曉時到達黃口車站上車，午間到達徐州，沒有換車，由原車轉津浦路北上，1938年1月4日夜半到達臨城車站。
姚超倫下車到車站內詢問情況，見站上職員和護路警察正在慌忙收拾行李。站長對姚超倫說：“臨城前麵已經沒有我們的軍隊，等到最後一輛從滕縣開回的爆破車開到時，我們就要撤退。現在你們到了，我們就安全了。”留在滕縣車站的一名工兵少校則對姚超倫說：“滕縣北麵鐵道上的橋梁已經炸壞了，正在準備炸壞滕縣和臨城間鐵路上的幾座橋梁。敵人占領鄒縣以後，前哨在兩下店據守，沒有向滕縣前進，希望你們趕快開到滕縣去。”
但是，姚超倫團奉命到臨城防守，不能擅自移動。姚超倫隻能將這種實際情況報告上級處理，並派一個營的兵力到官橋做前哨，仍在臨城擇地構築陣地。
1月7日，盧濟清命令譚尚修第七四六團率領第一營和第二營進駐滕縣以北的十裏鋪占領陣地，第三營立即進駐滕縣並在七裏溝占領陣地。各營連分別到達指定地區趕築工事。姚超倫第七四五團為旅預備隊，隨旅部行動。
8日，第八連連長陳開樹報告，從北沙河右翼發現日軍騎兵十多名，向守軍陣地搜索偵察。盧濟清於9日到達滕縣視察陣地，並請部隊長指示機宜。
1月11日韓複榘在開封被捕。同一天，濟寧失陷，日軍南下，向中國軍隊壓迫過來。譚尚修團與第三營派出一部分遊擊隊，在滕縣以東以遊擊阻擊日軍。
第二天，鄧錫侯集團軍奉李宗仁的命令，開赴滕縣南北地區布防，阻止日軍南下。
集團軍總部及孫震軍軍部率直屬部隊及稅梯青第一二四師之一部駐紮臨城。
鄧錫侯集團軍以第四十五軍為第一線部隊，由第一二七師師長陳離指揮；第四十一軍為第二線部隊。