增援的日軍開始上路了。這路日軍共有10萬人。
兩天後，焦頭爛額的日本東條內閣被迫下台。太平洋戰場上，美軍從塞班島登陸，日本海軍大將南雲忠一剖腹自盡，南雲忠一，是日本自山本五十六之後最有名的海軍大將。而中國戰場上，衡陽阻斷了日軍實施打通陸上交通線計劃。日軍兩條線作戰，兩條線都不利。
東條英機下台後，“高麗之虎”小磯國昭接任首相。
衡陽城下，經過20多日的殊死拚殺，雙方的體力消耗都達到了極限。
衡陽城裏上了年紀的老人說，以前，衡陽南門外有一個池塘，打了二十多天仗了，又正值盛夏，每個人身上都臭氣熏天。雙方都打累了，日軍攻不進中國軍隊的陣地，中國軍隊也趕不走日軍，怎麼辦？雙方就協商，先洗了澡再說，於是，就出現了奇怪的現象。日軍洗澡的時候，中國軍人不開槍；中國軍人洗澡的時候，日軍也不進攻。雙方都洗完澡了，那就接著再打。
日軍和中國軍隊一樣，都是人，除了洗澡，還要吃飯，怎麼辦？雙方也在商量，打累了，就先吃飯吧。吃完飯再接著打。
可是打來打去，誰都占不到便宜，怎麼辦？雙方就在士氣上壓倒對方。
日本人唱歌，中國人也唱歌，比賽看誰的歌聲嘹亮，誰的嗓門大，誰唱得整齊，雙方的陣地也就隻相隔幾十米，每天黃昏的時候，聽不到槍聲了，就隻聽見歌聲。
進入了8月，戰場上的戰鬥更是變成了決鬥，常常吃過晚飯後，鬼子就走出陣地，張牙舞爪地問中國軍人：“敢不敢決鬥？” 中國軍人也不含糊，會武術的就提著大刀出去了，雙方互有死傷。
8月4日，日軍十萬援兵來到，開始了第三次攻擊。
《日本戰史》是這樣記載的：“預期在一天之內，必下此城，但敵人之守將方先覺將軍，為一號驍勇善戰之虎將，其第十軍三個師，皆以必死之決心，負隅頑抗，寸土必守，其孤城奮戰之精神，實令人敬仰。我第一日之全力進攻，竟又被迫無效而終。亙四十餘天之激戰中，敵人尚無一兵一卒向我投降，實為中日戰爭以來之珍聞。”
日軍將方先覺視為中國第一號虎將。衡陽保衛戰激戰40多天，第十軍竟然沒有一個人投降日軍。
是一種什麼力量讓第十軍成為了鋼鐵長城？
是中華民族危難時刻的堅韌不屈。
十萬日軍圍攻衡陽，而六十八師團和一一六師團也在進攻。六十八師團，此時已經所剩無幾。
日本防衛廳對這天的戰役有這樣一段描述：
“8月4日。步兵第一二○聯隊，讓官兵奉拜軍旗，要官兵們與軍旗共存亡，做最後衝鋒。但是各個中隊連日作戰，最多隻有40到50名。還有的中隊隻有20到30名。右側也一樣，大隊進攻正麵，衝鋒人數隻有不足一個中隊，白刃戰隻有一個小隊。”
一二○聯隊，隸屬於一一六師團，就是接連死亡了誌摩源吉與和爾基隆兩個聯隊長的那個聯隊。這個聯隊喜歡裝神弄鬼，打仗前先祭拜軍旗，而能夠衝上去與中國軍隊白刃戰的，隻有一個小隊的鬼子。一個小隊是120人，也就是說，日軍一個聯隊3 000人，現在身體完好的，能夠拚刺刀的，隻有120人了。
第十軍孤軍奮戰，援軍在哪裏？
其實，有限的援軍一直在向衡陽靠攏，可惜一直無法衝入日軍的包圍圈。
《日軍戰史》記載“敵人之援軍三個師，已於其間到衡陽附近，但經我第四十師團迎擊之後，棄衡陽而掉頭南下。”
這支援軍是六十二軍，從7月31日直到8月2日，六十二軍一直與日軍四十師團激烈戰鬥，戰況同樣極為慘烈，甚至發生了白刃戰和肉搏戰，多位團長營長陣亡。後來，日軍圍攻，六十二軍不得不退出戰場。