在劉家湖激戰時，日軍從湯頭四次派出增援部隊，都被中國軍隊的阻擊部隊打退。
18日早晨，日軍用飛機、大炮集中火力向劉家湖轟擊。劉文修奉命以第三營留守，其餘部隊撤出村外隱蔽。
在這次戰鬥中，劉文修團原有兩千多人，損失半數以上；第二二四團也傷亡近半數。營長馮運申受傷不退，在擔架上指揮到戰鬥結束，才下火線，因此被提升為第二二六團團長。
第一一二旅在攻擊沙嶺子村時，遇到較大困難。沙嶺子村很大，房屋分散，日軍主力部隊沿河構築了很多據點。第一一二旅攻擊部隊過河後，正麵是一片沙灘，無法隱蔽接近日軍。激戰兩晝夜，傷亡五六百人，還是沒有進展。第六七六團及第六七八團在炮火掩護下，向沙嶺子正麵的日軍發起猛攻。日軍多次反撲，戰鬥非常激烈。在激戰中，張自忠來到第一線指揮。當部隊攻占沙嶺子後，張自忠便命令張宗衡旅向白塔方麵進擊。在這次戰鬥中，日軍不但炮火猛烈，還有飛機輪番轟炸，彈密如雨，有些落在張自忠身旁。但他奮不顧身，帶著陳芳芝步兵營及軍部手槍營向前急進。這時，忽然發現約有一個大隊的日軍向部隊左側襲來。張自忠命令陳芳芝營的營附帶領手槍營的一個連，在重機槍掩護下，予以迎擊。經過兩小時的肉搏戰，將日軍擊潰。這一仗，張宗衡旅俘虜日軍十八名，繳獲兩門大炮以及許多輕重機槍和步槍。部隊雖然傷亡很大，但士氣仍然振奮。陳芳芝營第十連負傷的排長王德祥、陰秀山等人，以及一些負傷的士兵，都堅決不肯下火線。他們說：“軍長還在前線，我們一定要和敵人拚個你死我活。”張自忠親自勸說他們，才將其中傷勢較重的送到後方醫院。
在這期間，板垣征四郎增調一個旅團，進行反撲。日軍在15日午夜從沙嶺子北中國軍隊兩旅陣地結合部偷渡沂河，向黃維綱師後方迂回，占領了毛官莊對麵河西渡口，並進而向黃維綱師占領的崖頭、劉家湖、苗家莊、釣魚台一線猛攻，同時派出十多架飛機轟炸。張自忠被迫將黃維綱師一部調回，打擊偷渡的日軍。黃維綱師官兵沉著應戰。日軍又集中兵力三四千，炮一二十門，於16日向茶葉山、船流、釣魚台、郝沂宅子等地黃維綱師正麵進攻一天，戰鬥激烈。黃維綱師以傷亡兩千人的代價，終於將日軍擊退。
就在這時候，日軍又集結了兩個混成聯隊和一個騎兵大隊的兵力，從諸葛城以北堵河，占據船流和大、小苗家莊，並進窺劉家湖，逼向黃維綱師左側背，與黃維綱師預備隊董升堂旅發生激戰。張自忠得到報告，連忙電令兵力作如下調整：黃維綱師以有力的一個團固守茶葉山和郝沂宅子高地，阻擊河東進犯的日軍，不惜任何代價，堅守茶葉山陣地，以為第五十九軍的支撐點。駐石家屯的軍屬騎兵營，協同該地步兵，從新河村進擊河東，襲擾日軍的側背。黃維綱師除董升堂旅在劉家湖激戰外，河東部隊全部撤回，以加強茶葉山沿河陣地的防禦。其餘部隊，都集結在餘糧村、小安子以南地區，嚴防日軍再繼續西竄。師部仍駐小安子，不準後移。師長隨時到第一線督戰。劉振三師所占沂河東岸的村莊，全部放棄，將兵力撤回河西。祁光遠旅應以劉照華第七一五團占領諸葛城，以火力嚴密封鎖苗家莊的日軍，使其不能再向外擴展。艾明綱的第七一七團占領諸葛城村東、沂河西岸的洪福寺，對釣魚台、苗家莊的日軍，不停頓地給以火力側擊，並沿河占領陣地，以防沙嶺子的日軍再渡河西犯。張宗衡旅撤回的部隊，集結在邵雙湖以北，隨時準備策應黃維綱師對劉家湖方麵日軍的作戰，並對苗家莊的日軍嚴加戒備，防其西犯。軍部仍駐朱潘。劉振三師師部駐邵雙湖，沒有命令，不準稍有移動。
張自忠還給張宗衡寫信，說第一一二旅方麵時與日軍有激烈的戰鬥，由苗家莊渡河的日軍，對黃維綱師威脅很大，臨沂據點關係徐州、台兒莊會戰大局，不容忽視。而苗家莊為雙方必爭之地，應全力以赴，務望不顧一切犧牲，傾全力將該處日軍迅速消滅具報。
張自忠軍的兵力經過調整之後，與日軍展開了戰役開始以來最為激烈的戰鬥。雙方死傷極為嚴重。
張宗衡接到張自忠的親筆信以後，便親自到諸葛城指揮，命令劉照華第七一五團向大、小苗家莊進攻，由平射炮連和機槍連猛烈射擊，壓製日軍的自動火力，掩護前進。劉照華命令劉同福的第一營從諸葛城右側凹地向苗家莊接近，命令陳芳芝帶領第三營和第二營第五連擔任主攻。陳芳芝帶領部隊推進到距苗家莊約二百米的地方，先令各連輕機槍就近占領陣地，掩護步兵進攻，命令第九連、第十連、第十二連分三路向日軍猛攻，以第五連和第十一連為預備隊。中午12點，下令衝鋒，激戰約二十分鍾，將日軍陣地突破。然後，與日軍進行肉搏戰，達一小時之久。部隊占領了大苗家莊，將日軍壓縮在小苗家莊及沂河岸邊。
董升堂旅劉文修團16日在劉家湖村外與日軍爭奪了一天，黃昏時，日軍突入村內，占領了村子的東半部，劉文修團仍據守西半部。村中有一個大水塘，方圓數畝，水深一米多，雙方在水塘兩邊互相射擊，相持不下。到16日晚，董升堂又將第二二七團投入戰鬥，雙方互有進退，陣地幾經易手，水塘邊上，雙方積屍幾百具。到17日早晨，董升堂旅的部隊仍然堅守著陣地，與日軍鏖戰。
由於日軍將主力用於對付張自忠軍，龐炳勳部正麵日軍兵力大減。龐炳勳抓住有利戰機，率部猛襲日軍側背，有力地配合了張自忠軍的正麵攻擊。
16日夜10點，張自忠軍向日軍發起空前猛烈的攻擊，雷霆萬鈞，大地震顫。拚殺至17日淩晨4點，張自忠軍勝利攻克日軍主陣地。
17日，為了爭取主動，張自忠軍又向日軍發起攻勢。張自忠命令黃維綱師向臨沂以北的劉家湖和茶葉山一帶進攻。命令劉振三師向沙嶺子、大太平等地進攻。中國軍隊第二次克複沙嶺子，並乘勝前進。在這同時，劉照華團也克複了大太平。日軍集中兵力向大太平猛撲，照例是先集中炮火向守軍陣地轟擊，飛機輪番投彈掃射。守軍沉著應戰，等到日軍步兵進入射程之內，一聲號令，輕重武器齊向日軍射擊。在日軍接近到三四十米的地方時，守軍把手榴彈一齊投擲出去。火光四射，日軍亂了陣腳，守軍趁勢出擊，與日軍肉搏。當時殺聲震天，槍聲、炮聲交織在一起，終於將日軍的進攻打退。
17日下午3點，日軍突破了守軍第一營在大太平占領的陣地。陳芳芝帶領兩個營，又把衝進來的日軍打回去。這時日軍已經筋疲力盡，劉照華團趁機全線出擊，將大太平等幾個村子完全收複。這一仗，張自忠軍繳獲日軍山炮兩門，擲彈筒二十多個，輕重機槍十多挺，步槍一百多支。劉照華團傷亡官兵四五百名，但士氣旺盛，有的官兵負傷不下火線，當即受到晉級褒獎。
張自忠決心以全力再向板垣師團殘部發動攻勢。17日黃昏，他命令黃維綱師董升堂旅劉修文團和張海文團向劉家湖和茶葉山一帶猛攻。日軍打得也很靈活。他們在強大火力的掩護下，多次向劉修文團的陣地反撲，都沒有得逞。有一次，日軍又占領了茶葉山的一個高地。劉修文團第二營營長冉德明帶領全營在重機槍及炮兵掩護下，成縱隊衝上去。第三營營長陸文龍也帶著全營抄擊日軍左側背。經過一晝夜的激烈戰鬥，日軍抵擋不住，向白塔方麵退去。董升堂旅完全克複了茶葉山。
這時，第一一三旅也奉命向劉家湖及茶葉山左麵高地進攻。該旅趙金鵬第二二五團和朱春芳第二二六團與日軍激戰後，恢複了茶葉山以左的山地。戰鬥中營長田中政負傷。
在戰鬥中，張自忠經常親臨第一線指揮。他對部下要求很嚴。第二二四團第三營一名姓賀的連長，因作戰後退，被張自忠正法。第二二二團團長借輕傷擅退，被張自忠撤職。第二二五團原團長杜蘭喆因督率無方被免職，由劉金鵬任團長。
在茶葉山戰鬥中，劉文修團的三位營長一死兩傷。各連、排長傷亡在三分之二左右，士兵傷亡過半。陸文龍和劉同福負傷。冉德明在率部向高地突擊時連中數彈，被隨身護兵抬下火線。冉德明自知不救，對護兵囑咐說：“我這傷是救不了啦，我有三個願望：一是希望張軍長能親自看一看我的屍體；二是給我立一塊小碑；三是不要將我的死信告訴老婆孩子，戰事平定，希望能把他們送回河北完縣老家。”
張自忠得到報告，立即趕來看望。此時，冉德明已停止了呼吸。冉德明是跟隨張自忠多年的老兵，曾任張自忠衛隊連連長，彼此親如手足。張自忠抱起冉德明渾身是血的遺體，連聲呼喊著他的名字，淚流滿麵。按冉德明的遺願，張自忠派人將他的遺體運往河南鄭州，埋在西北軍專門安葬死難官兵的“義地”裏，為他立了高二米、寬一米的墓碑，碑銘由張自忠親自題寫。此後，張自忠還以冉德明的名義定期給他的家屬郵寄生活費。
17日這一天，第四十軍也有斬獲。這天早晨，李振清團在劉家湖截獲日軍的一門大炮。當時無人熟悉日本大炮的操作，李振清想到李宗岱是炮科出身，立即命令傳騎給他送去手令：“第二連連長李宗岱迅即來部。”李宗岱騎馬飛奔團部，李振清和他一道去檢查繳獲的大炮能否使用。到那裏一看，是一門日本大正六年式的七五口徑山炮，一切完好。為了用這門大炮追殲潰退的日軍，李宗岱立即裝上榴霰彈，將標尺定在二千四百米至三千二百米的射擊距離，轉動炮位，將炮口指向日軍正在潰退的方向，連續發射了十幾炮。李宗岱把標尺不斷延伸，從瞄準鏡和望遠鏡中可以清楚地看到炮彈爆炸，濃煙起處，日軍遺屍累累。
至17日上午，張自忠軍統計傷亡人數，黃維綱師官兵自投入臨沂戰役以來，傷亡近四千人，劉振三師也傷亡了兩千多人。第一線作戰部隊的營長傷亡近半，連長和排長幾乎全部換人。但該部隊仍堅守陣地，頑強戰鬥。
徐祖詒見張自忠軍傷亡過重，電請李宗仁同意令張自忠軍撤出戰鬥，轉往郯城休整。但張自忠殺得性起，不肯撤退。他請求徐祖詒轉請李宗仁允許第五十九軍再打一天一夜，如果不能擊退日軍，即遵令撤退。他說：“中國軍隊傷亡很大，敵人傷亡也大。敵我雙方都在苦撐，戰爭的勝利，決定於誰能堅持最後五分鍾。既然同敵人幹上了，我們就要用精神和血肉拚命幹一場，不打敗敵人誓不罷休!”眾將領非常讚同軍長的意見，紛紛求戰。
李宗仁同意張自忠的請求後，張自忠便把黃維綱和劉振三召到軍部，當麵對他們說明敵我情況。他說：“我已請求李長官，允許我們再打一天一夜，如果不能打退敵人，軍部即組織有計劃的撤退，不許紊亂。你們回去分別到第一線，給官兵們講清楚。”
隨後，張自忠下達命令：一，3月17日，軍、師所有山炮、野炮及重迫擊炮全部推進到兩師第一線，將全部炮彈傾向日軍陣地。二，軍部仍在原地，由副軍長李文田擔任指揮。三，第三十八師黃維綱師長帶領預備隊，到劉家湖第一線指揮，限令黃昏前將所有炮彈發射完畢，然後規定好夜戰的暗號，命令一線部隊一齊出擊。四，第一八零師劉振三師長和祁光遠旅長親到諸葛城一線指揮，將所有炮彈射完後，即令第七一五團全團向苗家莊之敵攻擊。五，第二十六旅張宗衡旅長率全旅在劉家湖、苗家莊之間及時策應兩師作戰。
顯然，張自忠決心傾盡全力，與板垣征四郎一決雌雄。他斬釘截鐵地對幾位師長和旅長說：“這次攻擊，隻許勝，不許敗，否則軍法無情!”此時日軍因傷亡甚眾，也已經無力發動強攻。張自忠掌握戰機，集中全力組織反擊，於當日黃昏後，利用敵人得不到飛機支援而又不慣夜戰的有利條件，向河西猛攻盤踞在鳳儀官莊、劉家湖、苗家莊、船流等十幾各村莊的日軍。
入夜，黃維綱師首先以壓倒優勢衝入日軍占領的劉家湖村。經過三個小時的拚殺，將日軍全部擊潰。日軍丟下四百多具屍體，向湯頭方向逃去。黃維綱師收複了劉家湖周圍幾個村子。到18日拂曉，又渡河推進到毛官莊河岸布防。
與此同時，劉振三師向苗家莊的日軍進攻。該師第七一五團劉照華團長，以孫瑞芳的第一營和陳芳芝的第三營為主攻部隊。攻擊開始後，在村外遇到日軍頑強抵抗，雙方展開激戰。劉照華團的官兵個個奮勇當先，將日軍壓迫到村內，逐屋爭奪，展開肉搏戰。村內槍聲大作，殺聲震天，直到午夜，漸次寂落。
戰鬥結束後，根據報告，村內外戰場上，日軍丟下了兩百多具屍體。按照以往的習慣，日軍在戰場上很少丟下屍體，即使不能運走，也要割去死者一個手指或一隻耳朵，回去交給他們的親屬。但在這次戰鬥中，日軍來不及這麼做了，隻顧倉皇逃命。
天亮後，顧相貞詳細視察了戰場情況，到處都能看到中國軍隊和日軍拚殺的痕跡。屍體交疊，隨處可見。僅村中央一處樹林內，就有二十多具日軍屍體倒在一起，其中還有不少官佐。在日軍遺棄的屍體中發現有第十一聯隊聯隊長長野佐一郎大佐、第三大隊大隊長牟田中佐及第九中隊中隊長等多名軍官。又據在劉家湖所俘一等兵陸夫說，這次沂河兩岸戰鬥，第五師團阪本支隊傷亡約三千多人。
3月18日，當日軍向湯頭鎮退卻的時候，張自忠命令各部分頭追擊。
楊幹三團追到臨沂東北的三官廟。三官廟村位置高出周圍田野，是日軍搶先占領的陣地，四麵開闊，易守難攻。日軍構築了兩道防線，崗腳下邊一道，廟的周圍一道。日軍大約有八九百人在這裏防守。董升堂旅奉命以全力進攻三官廟，以楊幹三團主攻，以劉文修團作預備隊。
19日淩晨4點，楊幹三團開始攻擊，到天明6點左右，雙方傷亡都很大，楊幹三團的三個營長都受了傷。這時，董升堂命令劉文修團增援上去。又激戰了兩個小時，日軍才退到第二道防線，固守三官廟。董升堂旅用重武器向三官廟射擊，兩團的步兵輪番衝鋒。這時，日軍四輛坦克從高崗後向攻擊部隊衝來，部隊奉命向後稍撤，反坦克排隨即出擊。這個排是旅部特別訓練的，派出兩個班打毀了日軍坦克兩輛，其餘兩輛逃走了。步兵再次進攻，日軍潰退到湯頭。
第二十六旅崔振倫團附山炮第一連，向日軍追擊，搜索前進，於18日拂曉前進到大姚莊。崔振倫團因行動了一夜，正打算休息吃飯，這時天已亮了，日軍即從北麵村子開槍射擊。崔振倫團立即散開，予以迎擊。到11點後，日軍炮火十分猛烈，第一連的山炮已經不起作用了，於是日軍反守為攻。崔振倫團逐漸後退。
在這個緊急的時刻，崔振倫團派出作為右側衛的一個營被日軍包圍，營長急請增援。這時又接到右鄰友軍龐炳勳部一個營長的告急信，要求派部隊救援。但是，崔振倫團對這兩個營都無法接應，等待黃維綱師開來一個營時，崔振倫團的那個營已經全部犧牲了，右鄰的龐炳勳那個營也隻有少數人突圍出來。
黃昏前，崔振倫團奉命撤退，但被日軍膠著，直到天黑之後才撤到徐家太平及亭子頭一帶。從繳獲的日軍文件中獲悉，日軍原定當天攻下臨沂，急著開往台兒莊與磯穀師團會師，因此來勢凶猛。
這次戰役，中國軍隊將進犯臨沂方麵的日軍三個聯隊完全擊潰，殘餘的日軍大部退向莒縣，一部退至湯頭。張自忠令黃維綱師的董升堂旅向湯頭方向追擊，停止於湯頭以南李家五湖一線。其餘部隊除一部沿沂河西岸茶葉山一帶警戒外，全部集結到劉家湖一帶休整。沂河以東日軍在其主力北撤後，也向傅家池、草坡一帶撤退。
就這樣，中國軍隊獲得了臨沂大捷。張克俠參謀長興奮地在日記中寫道：“昔日所向披靡不可一世的皇軍之板垣師團，為我中華好男兒已打得威風掃地，‘鐵軍’碰到了打鐵漢!”
17日上午11時，蔣介石致電李宗仁、張自忠、龐炳勳，嘉勉臨沂之捷，電報說：
臨沂捷報頻傳，殊堪嘉慰。仍希督率所部，確切協同，包圍敵人於戰場附近而殲滅之。如敵脫逸須跟蹤猛追，開作戰以來殲敵之新紀錄，借報國軍之氣勢，有厚望焉。
隨後，來自各方麵的祝捷電報如雪片似的飛來。但張自忠並未陶醉在勝利之中，當天他就下令發起追擊作戰。
各部遵命而動，迅速向北追擊。18日，張自忠軍在龐炳勳軍團協同下，將日軍阪本支隊包圍於湯頭一帶。正要發起圍殲之時，張自忠卻突然接到戰區命令：“五十九軍留一旅歸龐軍團長指揮，拒止臨沂以北之敵。其餘即開赴費縣待命。” 當時，因津浦鐵路正麵的日軍陷滕縣南下，第五戰區為了集中兵力擊破鐵路正麵的日軍，決定將張自忠軍轉移於滕縣方麵。張自忠隻好放棄眼前有利戰機，將第一一四旅留歸龐炳勳指揮，自己則率其餘部隊於21日下午冒雨向費縣開進。
同一天，第五戰區司令長官李宗仁派出特派員，到臨沂第一線各部慰問，並發了犒賞。特派員授給李宗岱兩枚勳章，還特別嘉獎了第二連扼守葛溝的戰鬥功績。同一天，李宗仁發布通告：進犯臨沂之敵全部被我擊潰。
第一次臨沂之戰就此結束。
張自忠洗刷前恥，龐炳勳一戰成名。
日軍阪本支隊逃到莒縣後，兵員又得到補充，達到五千多人，而且擁有了更多的飛機、大炮和坦克。湯頭以北的日軍偵知張自忠軍已開赴費縣方麵，在得到阪本旅團增援之後，又向臨沂逼近。3月23日下午，日軍開始進攻，龐炳勳軍和日軍連日激戰於臨沂城東的埠前店和三官廟一線。日軍出動飛機九架，使用九門重炮，整天轟炸射擊。龐炳勳軍英勇抗擊，大量殺傷日軍。龐炳勳軍傷亡也是十分嚴重，不得不將學生隊和軍屬特務營用於第一線作戰，抵抗非常吃力。