這不是一般的鼓舞士氣，還有一個全國性的大局考慮在內。這時正是國共兩黨在美國特使馬歇爾的調停下進行和平談判的重要時期，而東北正是談判的重點地區。3月27日，軍事調停處執行部的三人小組正式簽訂了一個《調處東北停戰協議》，能否執行，尚不確定。如果我們能守住四平，也就守住了長春，就有了和蔣介石進行談判的實力。假若能夠執行停戰協議，東北就會成為我占領長春、哈爾濱，國民黨政府占領沈陽的南北分治局麵。而我軍如果守不住四平，讓對方直上北滿，長春也就很難守住，這將置我方在談判中於極為不利的境地，蔣介石就決不會與我方停戰談和，我們在東北就更加被動。正是出於這種大局上的考慮，毛澤東在給林彪的電報上不止一次用了“死守四平”這樣的提法。
可是，林彪並不樂觀。在第一線的他很清楚：前一段時間的戰鬥，暴露出了我軍不適應這種陣地戰的很多毛病，如火力的配備、對付火箭筒和坦克的辦法、工事的修築等，缺陷很多。還有一個致命問題是彈藥的供應。長期的陣地戰對彈藥消耗很大，我們到東北後從日軍倉庫中取得的那點彈藥快用光了，自己的兵工廠還未建起來，如果把新調過來的部隊都拉上去，把彈藥打光，以後怎麼辦？為了補充四平前線的彈藥，羅榮桓出麵請蘇聯方麵幫忙，從海路經朝鮮調撥了八列火車的彈藥和藥品，誰知在梅河口火車站被國民黨空軍炸掉了。
南滿的敵軍在攻占本溪後，廖耀湘的新六軍等部被杜聿明調到四平前線，新一軍軍長孫立人從國外回到了軍中，加上陳明仁的七十一軍，國民黨軍隊的三支主力軍一齊壓向四平。
新一軍和新六軍同屬於國民黨軍隊中的五大主力之一，而且是一對孿生的難兄難弟。新一軍1943年1月成立於抗日戰爭時期，第一任軍長是鄭洞國，下麵兩個師長是孫立人和廖耀湘。這是國民黨軍隊中第一個全部美式裝備的軍。這支部隊在印度蘭姆伽成立後接受了嚴格的美式訓練，又增加了大批青年學生。這兩支部隊遂成為東北地區國民黨軍隊的支柱。這時，同時向四平展開了進攻。
由於敵軍三個主力軍一齊向我壓了上來，而且其中有兩個國民黨軍隊的王牌軍，戰鬥力很強，我軍的防線不得不拉長，兩翼長達100多公裏，形勢對我明顯不利。林彪曾將守四平的各種困難如實向中央報告，黃克誠更是明確向中央建議放棄四平和長春，用以保存實力，以求再戰。但中央從全局出發，仍要求林彪在四平死守，因為從全局來說，“四平街保衛戰支持的時間愈長愈有利”。
當杜聿明把他在東北的主力基本上都集中到四平之後，從5月14日開始以10個師的兵力再度向我軍發起了進攻。這時雙方的對陣形勢是：
黃克誠的三師和梁興初的一師對付西邊的敵七十一軍，新從南滿調來增援的程世才的三縱和三五九旅對付東邊的新六軍，楊國夫的七師和彭明治的七旅對付正麵的新一軍，萬毅的一縱增援製高點塔子山。15日，三個方向同時進行激戰。在三道林子北山陣地上，新一軍在飛機、重炮的支持下向我軍進攻，北山陣地高不過20米，寬不到100米，可是平均每分鍾都要承受100多發重炮炮彈和幾十枚重磅炸彈的狂轟濫炸，整個陣地完全成了一片火海和血山。新六軍用部分兵力和我作戰，同時用600輛大卡車運送部隊繞路向前衝，再用飛機掩護，突破了我三縱的防線，然後會同新一軍猛攻四平的製高點塔子山。我守塔子山的七縱和火速增援七縱的三師十旅的指戰員打到18日，傷亡殆盡，塔子山終於失守。塔子山一失守，四平就完全暴露在敵人的炮火之下，更重要的是，我軍有被敵人切斷後路的危險。林彪在無法等待中央批準的情況下，下令全軍撤出四平。19日，敵軍進入四平。
四平之戰，是我軍進入東北後打的第一次大仗，我軍共投入了8萬人馬，結果並未保住四平，雖然消滅了敵人1萬多人，但是自己的主力部隊傷亡達8000人以上，有的師、旅基本上失去了戰鬥力。這一仗，打擊了敵人的囂張氣焰，阻滯了敵人的北進，在當時，對鞏固北滿根據地起了重要作用，所以，中共中央在給東北民主聯軍總部的電報中說：
“四平我軍堅守1個月，抗擊敵軍10個師，表現了人民軍隊高度頑強英勇精神，這一鬥爭是有曆史意義的。”