而日軍自7月下旬起，設在外線的兵站每夜仍可向衡陽前線官兵輸送30～40噸的給養。麵對此情，親自指揮此次會戰的中國最高統帥蔣介石意識到局勢嚴峻，嚴令外線各軍迅速攻擊前進，以解衡陽之危。但在日軍強大炮火與兵力阻擊下，7月20日，國民黨第六十二軍進展至衡陽西南約7公裏處，由西北增援之第七十九軍亦距衡陽不過8公裏處，受到敵人猛烈炮火的壓製，而第十軍於19日夜間派出向第六十二軍方向接應的特務營也遭到日軍伏擊，全部陣亡。蔣介石預計窮一日之力，兩軍各向前推進5公裏即可解衡陽之圍，但這短短的5公裏路程卻如萬水千山，計劃始終未能貫徹，援軍被迫停止。衡陽麵臨彈盡糧絕、城破有日的險惡處境。
生死已到緊要關頭，最後的決戰即將開始。中日雙方皆傾全力投入這場關乎國家存亡的攻守戰。大海那邊的日本天皇翹首以待，密切關注著這場千裏之外的戰事。日軍大本營命令第十一軍全力投入攻城之戰，並調集炮兵、化學部隊配合，以盡快拿下衡陽。正身患痢疾、身體衰弱、焦躁不安的日軍橫山勇中將認為時機已到，不再猶豫，集結第十三、四十五、五十八、六十八、一一六共5個師團，外加五十七旅團和重炮、化學部隊共11萬餘眾，向衡陽城圍攻而來。麵對日軍的強悍攻勢，國民黨軍事高層人員更加焦慮不安，皆以悲壯的心境注視著這場關乎民族安危的攻防戰。
當此之時，美國派往中國戰區擔任戰區參謀長的史迪威將軍，為爭奪實際上的中國戰區最高統帥權，進而支配、統治中國，不惜與蔣介石公開叫板爭雄，並密電唆使羅斯福總統和一些政客，通過美國輿論向蔣施壓，迫其就範，讓蔣介石無條件交出中國軍隊的指揮大權。
由於美國上層對蔣的施壓和輿論對國民黨軍隊的譏諷甚至誹謗，導致蔣介石與中國軍隊蒙受羞辱，國際地位大損，而“敵寇更恣意進攻，徒增我軍民痛苦”[10]。在國勢危於累卵的嚴峻時刻，衡陽之戰的重要性就不隻具有軍事戰略價值，更涉及政治及外交上的關鍵作用。如果衡陽防守能取得最後勝利，則政治外交將隨之逆轉；反之，將雪上加霜，後果不堪設想。7月20日，蔣介石在日記中寫道：“……軍事憂惶，未足言危，而對美外交之頹勢，實為精神上最大之打擊。但果能邀天之福，軍事獲勝，則外交危機，亦可轉安，萬事皆在於己之盡力耳。”[11]
衡陽之戰不僅牽涉中國一地之得失，而關乎華盛頓與尚在緬北指揮盟軍攻擊密支那日軍的史迪威將軍，更關乎整個遠東戰局與政治安穩。5天之後的7月25日，蔣介石取勝之心已變得極度迫切，不惜於暗夜中向天祈禱：“願主賜我衡陽戰事勝利，當在南嶽頂峰建立大鐵十字架一座以酬主恩也。”[12]縱觀抗戰八年，手握數百萬大軍的蔣委員長，經過了一次又一次劫難，但如此焦慮迫切之情，從未有過。令人萬分遺憾的是，縱然他一日發出“十二道金牌”，援軍仍無法打破日軍的阻擊線，衡陽解圍仍是夢中之影。
孤軍守戰，勢難支撐的第十軍軍長方先覺仍不斷發出急電，力陳所部將士麵臨的困難與險境：“本軍固守衡陽，將近月餘，幸我官兵忠勇用命，前赴後繼，得以保全，但其中可歌可泣之事實與悲慘壯烈之犧牲，令人不敢追憶！”又說：“自昨三十日晨起，敵人猛攻不止，其慘烈之戰鬥，又在重演。危機隱伏，可想而知，非我怕敵，非我叫苦，我決不出衡陽！但事實如此，未敢隱瞞，免誤大局。”[13]
蔣介石在7月31日的日記中寫道：“衡陽保衛戰已一月有餘，第十軍官兵死傷已過十分之八，而衡陽屹立不撼。蓋以衡陽之得失，其有關於國家之存亡，民族之榮辱者至大也。”[14]
8月1日，日本第十一軍司令官橫山勇中將，佩戴“天照皇大神宮”神符，偕隨員乘偵察機三架由長沙飛抵衡陽機場，親自指揮日軍步兵、炮兵等兵種相當於七個師團的兵力聯合作戰，企圖一舉攻下衡陽，擊潰方先覺部。
8月2日，國民黨增援部隊按蔣的數次電令火速向衡陽推進，仍如攜山搬家，無法突破日軍封鎖。無奈中，蔣介石動用飛機穿越敵人炮火向衡陽投下手諭，不許方先覺再發電請援，同時囑其注意一死報國，內稱：“我守衡官兵之犧牲與痛苦，以及迅速增援，早日解圍之策勵，無不心力交瘁，雖夢寐之間，不敢忽之。惟非常事業之成功，必須經非常之鍛煉，而且必有非常之魔力，為之阻礙，以試煉其人之信心與決心之是否堅定與強固。此次衡陽得失，實為國家存亡攸關，決非普通之成敗可比。自必經曆不能想象之危險與犧牲，此等存亡大事，自有天命，惟必須吾人以不成功便成仁，惟有以死報國之決心以赴之，乃可有不懼一切，戰勝魔力打破危險，完成最後勝利之大業，上帝必能保佑我衡陽守軍最後之勝利與光榮。”[15]同時告之增援大軍已“嚴督猛進”，嚴令第十軍將士繼續堅守勿退，力克敵軍。