根據全國人民的和平願望，中國共產黨同意與國民黨政府進行和平談判。3月26日，也就是毛澤東到達北平的第二天，中共中央通知國民黨政府：談判時間定於4月1日，地點定於北平。4月1日，以張治中為首席代表的國民黨和平談判代表團到達北平，同以周恩來為首席代表的中國共產黨代表團舉行了長達20天的談判。談判的結果，是在4月15日晚上達成了《國內和平協定》。誰知蔣介石見到這個協定之後，竟大罵“文白（按：張治中字文白）無能，喪權辱國”，堅決予以拒絕。4月20日深夜，國民黨政府代總統李宗仁正式宣布，拒絕接受《國內和平協定》。曆時20天的國共兩黨和平談判宣告完全破裂。
1949年4月21日，中央軍委主席毛澤東和中國人民解放軍總司令朱德向全軍發布了《向全國進軍的命令》：
各野戰軍全體指揮員戰鬥員同誌們，南方各遊擊區人民解放軍同誌們：
由中國共產黨的代表團和南京國民黨政府的代表團經過長時間的談判所擬定的國內和平協定，已被南京國民黨政府所拒絕。南京國民黨政府的負責人之所以拒絕這個國內和平協定，是因為他們仍然服從美國帝國主義和國民黨匪首蔣介石的命令，企圖阻止中國人民解放事業的推進，阻止用和平方式解決國內問題。經過雙方代表團的談判所擬定的國內和平協定8條24款，表示了對於戰犯問題的寬大處理，對於國民黨軍隊的官兵和國民黨政府的工作人員的寬大處理，對於其他各項問題亦無不是從民族利益和人民利益出發作了適當的解決。拒絕這個協定，就是表示國民黨反動派決心把他們發動的反革命內戰打到底。拒絕這個協定，就是表示國民黨反動派在今年1月1日所提議的和平談判，不過是企圖阻止人民解放軍向前推進，以便反動派獲得喘息時間，然後卷土重來，撲滅革命勢力。拒絕這個協定，就是表示南京李宗仁政府所謂承認中共8個和平條件以為談判基礎是完全虛偽的。因為，既然承認懲辦戰爭罪犯，用民主原則改編一切國民黨軍隊，接收南京政府及其所屬各級政府的一切權力以及其他各項基礎條件，就沒有理由拒絕根據這些基礎條件所擬定的而且是極為寬大的各項具體辦法。在此種情況下，我們命令你們：
（一）奮勇前進，堅決、澈底、幹淨、全部地殲滅中國境內的一切敢於抵抗的國民黨反動派，解放全國人民，保衛中國領土主權的獨立和完整。
（二）奮勇前進，逮捕一切怙惡不悛的戰爭罪犯。不管他們逃至何處，均須緝拿歸案，依法懲辦。特別注意緝拿匪首蔣介石。
（三）向任何國民黨地方政府和地方軍隊集團宣布國內和平協定的最後修正案。對於凡願停止戰爭、用和平方法解決問題者，你們即可照此最後修正案的大意和他們簽訂地方性的協定。
（四）在人民解放軍包圍南京之後，如果南京李宗仁政府尚未逃散，並願意於國內和平協定上簽字，我們願意再一次給該政府以簽字的機會。
根據中央軍委的命令，就在發布命令的4月21日，我二野和三野的百萬大軍在西起九江、東至江陰的長達500餘公裏的長江水麵上，實行強渡，粉碎了敵人苦心經營了三個半月的長江防線，順利地渡過長江，開始了解放全中國的大進軍。
4月23日，我軍解放了國民黨反動派盤踞了22年的統治中心南京；
5月17日，解放華中重鎮武漢；
5月20日，解放西北重鎮西安；
5月27日，解放中國最大城市上海；
8月4日，程潛和陳明仁在長沙宣布起義，湖南和平解放；
8月17日，解放福州；
8月26日，解放蘭州；
9月26日，陶峙嶽、鮑爾漢在迪化（今烏魯木齊）宣布起義，新疆和平解放；
10月14日，解放華南重鎮廣州；
11月30日，解放西南重鎮重慶；
12月9日，盧漢在昆明宣布起義，雲南和平解放；
12月27日，解放了我國大陸的最後一個大城市成都。
在1949年底，我人民解放軍已經殲滅了大陸上的全部國民黨軍隊，解放了除西藏外的中國大陸部分。
也就在向全國大進軍的號角聲中，1949年9月21日，中國人民政治協商會議第一次全體會議在北京開幕。毛澤東在開幕詞中說了一句響徹全球、彪炳青史的名言：
占人類總數四分之一的中國人從此站起來了。
1949年10月1日，中華人民共和國在首都北京宣告成立。就在這個偉大的日子的前一天，當夜幕將要降臨的時候，毛澤東和政協代表們來到了天安門廣場，為人民英雄紀念碑舉行了隆重的奠基典禮。毛澤東滿懷激情地宣讀了由他撰寫的碑文：
人民英雄永垂不朽！
三年以來，在人民解放戰爭和人民革命中犧牲的人民英雄永垂不朽！
今天，高大巍峨的人民英雄紀念碑早已經豎立在天安門前的廣場上。今天，當我們仰望著碑身上那奪目耀眼的金色大字時，我們都應當回顧60多年前發生在祖國大地上那場曆經了4個月又19天、消滅了154萬國民黨軍隊的大決戰，都應當緬懷大決戰中湧現出的奮不顧身的英雄和英勇獻身的烈士。讓我們大家再默念一遍人民英雄紀念碑上的碑文：
人民英雄永垂不朽！