在平津戰役準備過程中，聶榮臻就反複思考，能不能爭取和平解放北平？他之所以這樣想，一是為讓這座曆史悠久的文化古都免遭戰火毀壞，二是他在西柏坡與毛澤東的接觸中，意識到將來可能會定都北平，應最大限度減小損失。特別是傅作義有談判傾向，通過他的大女兒傅冬菊提供的情報，可以及時掌握他的最新動態，進行正確決策，這就更加堅定了聶榮臻和平解放北平的信心。
在平津戰役指揮部，聶榮臻向羅榮桓談及自己對平津戰役的看法時說，應該爭取和平解放北平。如果黨中央決定定都北平，那麼把它打個稀巴爛，進城以後會給城市的接管工作造成很大被動，搞不好我們大軍入城連個住處都沒有。羅榮桓同意聶榮臻的分析，他充滿自信地說，隻要我們用槍杆子做後盾，把方方麵麵的工作做紮實，到時候逼著傅作義放下武器，走和平談判道路，那時就由不得他了。
聶榮臻作為平津戰役的主要指揮者，再次向毛澤東明確建議，攻下天津之後，應采取各種措施迫使傅作義就範，爭取北平不戰而勝。毛澤東同意聶榮臻的看法，指出：“今後，我軍作戰主要是奪取大城市。能和平解決的盡量和平解決。北平最好不要打！中國人民為解放事業流的血實在是太多了！”可見，聶榮臻的戰略思考得到了毛澤東的認同。
此時，我軍不但在外圍對平津守敵形成強大壓力，內線的情報工作也同樣出色。北平的地下黨組織利用各種關係，獲取了大量情報，源源不斷地供給平津戰役指揮部，使聶榮臻、羅榮桓、林彪等對敵情一清二楚。在此期間，傅作義的女兒傅冬菊立了大功，她及時了解掌握傅作義的動態，每天通過地下電台，及時、準確地向平津戰役指揮部報告。聶榮臻由衷地感歎：“幾十年來我打過許多仗，能夠如此及時了解對方最高指揮官的動態，還是不多的，這對我們作出正確判斷，下定正確決心，進行正確部署，具有重要作用。”
1949年1月10日，淮海戰役勝利結束，我軍殲滅國民黨軍隊55萬多人。聶榮臻興奮地說：“傅作義由陸上南逃之路已經被切斷，他隻有固守北平一條路了。”29日，平津戰役前線指揮部致電中央軍委，正式上報攻打天津的作戰計劃，此時，羅榮桓已去西柏坡參加會議。中央軍委當日複電：“放棄攻擊兩沽（塘沽、大沽）計劃，集中5個縱隊準備奪取天津是完全正確的。”
1月14日上午10時，我解放大軍向天津發起總攻，隨著3顆綠色信號彈騰空而起，頃刻間，500多門大炮一齊怒吼，開始了炮火覆蓋。此時，聶榮臻、羅榮桓、林彪三人總前委就攻下天津所需時間進行估計，一致的看法是大約需要3天時間。而最後的結果是，從發動攻擊到全殲守敵隻用了29個小時。聶榮臻看到，這對尚在猶豫中的傅作義又是致命一擊，現在，他已無路可走，不得不接受我軍提出的和平解放北平的條件了。
根據中央軍委的指示，平津戰役指揮部迅速向傅作義發出最後通牒，並令其限期作用出明確答複。在前期大量工作的基礎上，1月20日，傅作義接受了我方提出的條件，令其所屬的2個兵團、8個軍部、25個師共20多萬人陸續出城，接受我軍改編。2月1日，剛過完舊曆新年，聶榮臻和羅榮桓、林彪乘車進入北平，古都北平宣告解放，聶榮臻親眼見證了這一偉大時刻。