岡村寧次以為國軍贛湘防線已固，斂兵不敢再攻，轉而進擊鄂北。鄂北主將張自忠嚴陣以待。原來張自忠自駐鄂北，屢遭倭軍襲擾。張自忠率部針鋒相對，屢挫敵鋒。京山之役，殺得倭軍人人膽寒。蔣中正大為讚譽，特致電言：“貴部堅強抗戰，屢挫凶鋒，使戰線穩定，厥功甚偉。特賞洋二萬元，代備死傷官兵撫慰等臨時補充之用。”又授張自忠寶鼎勳章一枚；加授上將軍銜。
民國二十八年五月初旬，倭寇集大軍十餘萬眾，渡襄河而東，攻打隨縣、棗陽。大敵壓境，國軍將士皆寒。張自忠心急如焚，奮然致書眾將，以勵軍心：
“今日之事，我與弟等隻有兩條路可走：第一條是敷衍，大家敷衍，一切敷衍，我對弟等敷衍，弟對部下也敷衍；敵人未來我等是敷敷衍衍地布置，敵人既來我等也是敷敷衍衍地抵抗，敷衍一下就走。這樣的做法，看起來似乎聰明，其實最笨；似乎容易，其實更難；似乎討便宜，其實更吃虧。因為今天不打，明天還是要打；在前麵不打，退到任何地方還是要打。完是一樣的完，犧牲是一樣的犧牲，不過徒然給世人嘲笑。所以這條路的結果，一定是身敗名裂，不但國家因此敗壞於我等之手，就連我等自己的生命，也要為我等所斷送，這就等於自殺。所以這條路是死路，沉淪滅亡之路。
“我與弟等同生死、共患難十餘年，感情逾於骨肉，義氣重於同胞，我是不忍令弟等走這條滅亡的死路。弟等夙識大體，明大義，諒自己也決不肯走這條路。無疑的我等隻有走另一條路，就是拚。我等既然奉命守這條線，我等就決心在這條線上拚，與其退到後麵還是要拚，我等就不如在這條線上拚得有價值、有意義。我等這一次一定要同敵人在這條線上拚到底，拚完算完，不奉命令，決不後退。我與弟等受國家豢養數十年，無論如何艱難，我等還拚不得嗎?幸而我等的拚，能擋住了敵人，則不僅少數的幾個人，就連我等全軍也必然在中華民國享著無上的光榮，我等官兵也永遠保持著光榮的地位；萬一不幸而拚完了，我與弟等也對得起國家，對得起四萬萬同胞父老，我等沒有虧負了他們的豢養，我等亦不愧做一世的軍人。所以，這一條路是光明磊落的路，是我等惟一無二應該走的路。我與弟等參加抗戰以來，已經受了千辛萬苦，現在到了最後的一個時期，為山九仞，何忍虧於一簣，故惟有盼弟等打起精神，咬緊牙根，激勵部下，拚這一仗。我等在中國以後算人，抑算鬼，將於這一仗見之。”
倭寇逞其武器之良，軍兵之銳，全力攻打國軍防線。國軍據塹而守，苦苦支撐，死傷甚慘。相持數日，國軍力竭，棄獅子山、楊家崗、長壽店、普門衝、黃起庵等處而走。倭軍乘機縱深進展，割裂國軍而圍擊。國軍各部首尾難以呼應，各自為戰，死傷更眾。國軍三十七師師長吉星文，為敵勢所撼，不知所措，棄軍而逃匿。倭軍一擁而進棗陽。張自忠聞知棗陽已失，坐立不安，遂令總部拔營而進，欲連夜東渡襄河。
時梅雨綿綿，連月不住。道路泥濘不堪，行動艱難。張自忠率軍部冒雨行軍。翌晨，進至襄河西岸。時天地尙黯，雨水愈大，如瀑布瀉落。軍兵身居壕中，汙水齊腰，苦不堪言。忽見吉星文於棚中躲雨。張自忠喝道：“你部應於河東守禦，何故在此？”吉星文顫然，道：“我有事向總司令稟告。”張自忠厲聲道：“你既為盧溝橋之抗戰英雄，當揚昔日英豪之慨，奮不顧身殺敵。我平生最恨一‘逃’字，你若臨陣脫逃，當心我取你首級！”吉星文噤若寒蟬，匆匆渡河東去。其餘逃跑將士知情，亦匆忙東返。
張自忠靠前督戰，整飭軍紀。眾軍皆抱死戰之心，轉守為攻；又分軍襲擾倭寇後方。國軍第三十八師於大家畈伏擊倭軍輜重聯隊，滅敵近千，又獲敵資甚厚。倭軍後援不繼，不敢孤軍深入，遂回師休整。隨棗會戰，倭軍不勝而回，反挫傷軍力數千之眾。岡村寧次歎道：“當年在北平之時，財色難動張氏之心；不想今日又為張自忠所迫，張自忠真乃活關公！”自此倭軍皆譽張自忠為“活關公”，對其敬仰有加。