遠征軍酣戰當頭，國內國軍亦與倭寇苦苦拚殺。民國三十三年初，倭國擬定《1號作戰綱要》，欲圖擊敗國軍，占領並確保湘桂、粵漢及京漢鐵路南部沿線之要衝，並摧毀盟國空軍之主要基地，阻止盟軍空襲其本土以及破壞海上交通等。
四月間,倭軍第37師團趁夜渡過黃河，擊退當麵之守軍，分路突擊鄭州、新鄭、洧川、尉氏。倭軍主力亦趁夜色攻打黃河南岸邙山頭橋頭堡，戰至次日中午，陣地皆為倭軍所占。國軍欲複橋頭堡，增兵來援。時倭軍源源而進，形如激流。國軍抵擋不住，連連後退。其後，倭軍分路攻禹縣、許昌、舞陽、郾城。湯恩伯令呂公良率新29師死守許昌城。兩軍酣戰半日，倭軍從西城及南城突入城區，巷戰至夜，國軍不敵，棄城郭奔走。呂公良亦死於亂軍中。倭軍既得許昌，馬不卸鞍，連陷漯河、郾城。上海及武漢倭軍派軍策應，攻破數城，使華北倭軍順勢而南，打通京漢路。
五月初旬，倭軍轉攻登封，欲滅湯恩伯之主力。湯恩伯主政河南數年，苛扣百姓，敲骨吸髓；又縱兵痞犯民。河南之民遭賦斂煩擾，怨曠積年，皆言：“河南災荒除水災、旱災、蝗災外，還有湯災,且湯災為四害之首。”倭軍所至，皆開倉放糧。湯恩伯部軍用庫中，存麵粉100萬袋，足夠20萬軍隊一年之用。倭軍除留軍用，餘者皆饋民。遠近饑民皆擁擠前來，歡呼雀躍。從此倭軍所過，家家冒炊煙，戶戶下農田。不管老少，爭為倭軍向導，又替倭軍刺探情報。豫西之民，皆懼倭軍回師，國軍複至。時餘楚聲在長沙，聞知其情，歎道：“此乃民意也！”
時韓錫侯之第9軍已遭倭軍圍困。韓錫侯驚懼，撞出重圍，又遭倭軍截其徑要，兵相蹈藉，死傷深重。之後，倭軍以一部軍力監視洛陽，主力則沿黃河南岸追擊湯恩伯之殘部。倭軍第69師團夜渡黃河。國軍之新8軍如驚弓之鳥，連夜奔逃。倭軍獲糧米、軍械甚厚；隴海路亦為其所截。倭軍第37師團占據嵩縣；第3師團攻占磁澗。湯恩伯躲至伏牛山，噤若寒蟬。
敗亡之眾如喪家惡犬，動輒不分善惡咬人。石覺所部倉皇敗退，百姓尚於道邊送茶，以示愛戴。然敗軍窮凶極惡，沿途強拉民夫，又入民房抄家，強取民間糧食、燃料、蔬菜、殺豬、殺雞，分文不給；或有百姓深受兵馬擾攘之苦，牽著牲口上山避難，為敗軍搜出，被誣稱為奸民，牲口拉走以作軍用，貴重物品搶走。遠近百姓聞風而逃，弄得十室九空，民眾恨之入骨。有鋌而走險者，合聚饑民，到處截擊軍隊，襲擾國軍部隊，槍殺國軍官兵。軍隊所到之處，保、甲、鄉長逃避一空，又將倉庫存糧搬走，空室清野。國軍官兵有數日不得一餐者，狼狽極甚。第31集團軍總司令王仲廉率領總部直屬部隊突圍，忽山野間無數農民，高舉獵槍、菜刀、鐵耙，截擊此等散兵遊勇。敗軍寒顫，亂棄軍械而逃。沿途盡是槍支、彈藥、高射炮、無線電台。或有餓甚逃亡不及者，亦為民眾所殺，被活埋之官兵亦眾。湯恩伯總部所過，亦為民眾所襲。湯恩伯殘剝河南至凶，以致民眾離叛。總計五萬餘國軍，為民眾所廢。
——時謝家昌在長沙，驚聞其情，問於楚聲。楚聲道：“你若至河南，便知湯恩伯之暴戾，甚於虎豹。又聞鄂地之民，成群結隊，偷過防線，把豬、牛肉、大米與酒送給倭賊。鄉民情願讓倭軍統治，卻不想在自己政府下當自由民。——此乃國民政府之恥！”寶蓮警告道：“湯恩伯在河南，暗通汪偽，倒賣貨物，謀取暴利。你那義兄，倒賣糧米，若倭寇來時，重蹈湯賊之覆轍，你不如同伯陵以死謝過。”家昌訝然，嗔視寶蓮，道：“你如何知湯恩伯暗通叛逆？”寶蓮瞪眼道：“百姓所知之事，官場中人豈知！”
時倭軍數萬眾，困洛陽數重。國軍第65師死守城北邙嶺區。倭軍遂從城西、南、東三麵強攻城垣。遠近民眾冒死援助。兩軍鏖戰盡日，相持不下。於是倭軍重兵攻占邙嶺區。而後，倭軍陸空協同，猛擊城垣。近晚，倭軍攻入城區，與國軍巷戰，如此拚殺一夜。國軍終不敵倭軍勢大，撤出洛陽。洛陽守將孫蔚如道：“我孫某雖失洛陽，卻不失民心：在陣地十八日之激戰中，輸送軍食、傷兵，皆人民自動為之。——皆因我部駐防汜水縣時，節省軍糧救助災民之功。我得黎民敬重，雖死何憾！”蔣中正在重慶聞知戰況，怒不可遏，撤去第一戰區司令長官蔣鼎文及副司令長官湯恩伯之職。