進攻部隊在一江山島登陸後，經一天激戰全殲島上守軍。情況果然如彭德懷所料，美軍當天沒有“協防”，直到1月底才調來大批海軍和空軍，迫臨浙東近海。但最終，美國政府出於對其全球戰略的考慮，決定讓蔣介石的軍隊從大陳島撤退。
此次戰役規模雖然不大，但卻是中國人民解放軍第一次十分成功的陸、海、空三軍聯合渡海登陸作戰。這一戰役的勝利，顯示了中國政府和人民不允許外國勢力幹涉中國內政的堅強決心和意誌，人民解放軍實行現代化戰爭的作戰能力大為提高，更為重要的是，人民解放軍取得了諸兵種聯合渡海登陸作戰的寶貴經驗。
抗美援朝戰爭結束後，中國領導人判斷，正在加緊包圍中國的帝國主義國家有可能隨時對我國發動突然襲擊。為防止帝國主義的突然襲擊，就有必要明確我軍的戰略方針。
1955年5月，彭德懷以國防部長身份出訪華沙條約組織成員國。在這次的蘇聯、東歐之行中，彭德懷與赫魯曉夫及蘇聯國防部長朱可夫等交換意見，弄清了蘇聯的戰略方針已由“加強積極防禦，防止敵人侵略”轉變為“先發製人“的進攻戰略。
1955年9月，彭德懷考察了福建、廣東沿海地區的海防建設，給毛澤東寫信提議召開軍委擴大會議，討論新中國的戰略方針，毛澤東批準了這個建議。
1956年3月6日，軍委擴大會議在國防部大樓舉行。彭德懷在會上作了《關於保衛祖國的戰略方針和國防建設問題》的報告。在報告中，他把50年代前期毛澤東和軍委關於戰略指導思想的指示和決定，特別是關於積極防禦的思想，綜合起來作了全麵的闡述和發揮。
會議采納了彭德懷的建議，確定了積極防禦的戰略方針，即在戰爭爆發之前，不斷地加強中國的軍事力量，繼續擴大國際統一戰線活動，從軍事上和政治上來製止或推遲戰爭的爆發。當帝國主義不顧一切後果向中國發動侵略戰爭的時候，人民解放軍要能夠立即給予有力的回擊，在戰爭初期將敵人阻止在預定設防地區，把戰線穩定下來，掩護全國由平時轉入戰時狀態，然後逐漸由戰略防禦轉入戰略反攻。
會議還就此作出決定，同意國防部長彭德懷提出的關於加強國防建設的要求，同時決定把全軍現有員額裁減三分之一。
彭德懷作為國防部長提出的“積極防禦”戰略，得到了毛澤東的充分肯定。這一戰略不是某一時期或某一方麵的具體方針，至今仍是我國我軍所遵循的軍事戰略方針。隨著國際政治格局的不斷變化，盡管在作戰對象、防禦方向以及作戰形式等具體內容上不斷有所調整，但“積極防禦”作為完整的軍事戰略方針始終沒有改變過。
作為新中國第一任國防部長，彭德懷肩負著一個重任：完成解放軍從戰時到平時的戰略性轉變。大到國防製度、海防邊防、戰略方針，小到軍隊條令、訓練方針，他都得從零做起。1953年12月7日至1954年1月26日，彭德懷主持召開全國軍事係統高級幹部會議，決定為適應現代化、正規化建設的需要，實施軍銜製、幹部薪金製、義務兵役製三大製度。在他的推動下，從1954年到1955年，我國的義務兵役製度、薪金製度和軍銜製度（合稱“三項製度”）相繼建立。
1955年9月27日，中國人民解放軍首次授銜，十大元帥從此載入共和國史冊。毛澤東為第一個頒發軍銜勳章的人是朱德元帥，第二個即是彭德懷元帥。
建立軍銜製度，是軍隊正規化建設的重要一環，彭德懷高度關注。早在1951年8月，時任誌願軍司令員的彭德懷就表示：“規定職務識別，在目前戰鬥中已感必要。”在給毛澤東的電報中，彭德懷說，由於長期無官階的製度，一時評定官階是困難的，目前宜采取過渡辦法。1953年9月8日，他在給毛澤東的報告中說：“軍銜主要是確定每一個軍人在隊列中的地位和職權，以便按職責、條令的規定，行使其職權；同時又是國家給予軍人的一種榮譽，以鼓勵其在軍隊中工作的上進心。”
但彭德懷也認識到，評定軍銜是一項非常困難的工作，因此這也是彭德懷花費精力最多的事情之一。1955年評定軍銜時，元帥和大將由中共中央書記處提名，經中央政治局審議確定，彭德懷隻參加討論，發表個人意見。而1000多名將軍，特別是其中57名上將的授銜名單，則由彭德懷主持擬定，上報政治局。彭德懷分別拜訪每位“老總”，利用機會同各大軍區主要領導人磋商，有時還直接同本人交談，統一衡量，綜合平衡。全軍近百萬幹部的軍銜評定，進展順利，效果良好。在1000多名將軍中，授銜以後，公開認為自己軍銜偏低的隻是極少數，絕大多數人對評銜工作是滿意和認可的。
毛澤東堅持自己不要軍銜，為評銜工作作出了表率，他曾對彭德懷等說：“你們搞評銜，是很大的工作，也是很不好搞的工作。我這個大元帥就不要了，讓我穿上大元帥的製服，多不舒服啊！到群眾中去講話、活動，多不方便啊！”
彭德懷也多次透露：“我並不需要這個牌牌，也夠不上什麼元帥，如果要評的話，也很難說評個什麼‘將’是合適的。但這不是個人問題，倘不評一些元帥，就會使一些人難得依次評下去。”1959年6月，他在同阿爾巴尼亞國防部長巴盧庫談話時又強調：“我不喜歡人家叫我元帥，這是戰爭的結果，是學人家的，我不喜歡肩上這兩塊牌牌。”
在戰火中誕生的中國人民解放軍，曆經20多年艱苦戰鬥，在作戰、建軍和建立根據地等方麵，有了一套成文或不成文的傳統規章製度。在取得全國政權後的和平時期，原有規章製度的某些部分，因時過境遷，不宜持續了。新中國成立後，軍事工作開始了由戰時向平時過渡的戰略性轉變，彭德懷主持軍委工作時繼續推進這一戰略轉變。可以說，彭德懷任國防部長這個時期，是全軍現代化、正規化建設最快、最好的時期之一。
（5）廬山遭貶含冤死
1959年7月2日至8月16日，中共中央在江西廬山召開政治局擴大會議以及八屆八中全會。按照毛澤東7月10日在組長碰頭會上的安排，廬山會議準備在7月15日結束。14日這天傍晚，毛澤東收到彭德懷的一封信。
彭德懷根據深入群眾、實地視察的所見所聞，對“大躍進”與人民公社工作中存在的問題和給國家帶來的困難，對“左”傾錯誤及其經驗教訓，坦率地提出了自己的看法和意見。這封被稱作“萬言書”的長信，闡述了他對“大躍進”的看法，在肯定成績的同時又指出存在的嚴重問題，建議中央采取措施，表示隻要團結起來加以克服，他對“偉大的成績和光明的前途”充滿了信心。
但他的意見未被接受，反而受到了錯誤的批判。彭德懷因此被指責犯了“資產階級的動搖性”錯誤，是“右傾性質”的問題，是向黨進攻，被打成“右傾機會主義反黨集團”分子。根據毛澤東的意見，會議開展對彭德懷、黃克誠、張聞天、周小舟“反黨集團”的鬥爭。
7月31日至8月1日，毛澤東在自己的住處主持召開中央政治局會議批判彭德懷。參加會議的有劉少奇、周恩來、朱德、林彪、彭德懷、彭真、賀龍等。7月17日剛剛來到山上的林彪在發言中措辭激烈，說彭德懷有“野心”，並指責他的那封信是有準備、有組織、有目的的活動，是反黨中央、反總路線、反毛澤東的活動，是一個綱領性的東西。林彪的“這個發言很不善，以後成了定性的基調”。麵對林彪的不實之詞，彭德懷據理力爭，但招來的是更猛烈的炮火，以致說他組織反黨集團、“軍事俱樂部”。
8月2日至16日，中共八屆八中全會在廬山召開。會議的議題：一是對彭德懷、黃誌誠、張國燾、周小舟等進行批判；二是討論調整1959年經濟計劃指標。
8月7日中共中央發出《關於反對右傾思想的指示》。16日，毛澤東在一個批示中，把廬山會議出現的黨內不同意見的爭論說成是“一場階級鬥爭”，是“過去十年社會主義革命過程中資產階級與無產階級兩大對抗階級的生死鬥爭的繼續”。
八屆八中全會通過了《關於以彭德懷為首的反黨集團的錯誤的決議》，決定將彭德懷調離國防部。8月17日，毛澤東主持了中央工作會議。會議決定宣布撤銷彭德懷的國防部長、中央軍委委員職務。
廬山會議上，彭德懷曾說：“我這個人就是愛放炮，也傷過不少人。我認為對的，我總是要講。去年工作中出了不少問題，現在常委同誌都沒有講話，我講一下也有好處。挨點批評，我是不害怕的。有意見都不講，黨還有什麼戰鬥力呢？有些問題，大家一時還體會不到，批評鬥爭一下不要緊，就是開除黨籍也不可怕。”廬山會議不僅改變了彭德懷一個人的命運。
毛澤東從江西廬山回到北京，在中南海主持召開中央軍委擴大會議，繼續揭發批判彭德懷，會後，全軍各大單位開展“反右傾”鬥爭。9月17日，中華人民共和國主席劉少奇發布命令，根據第二屆全國人大常委會第九次會議決定，免去彭德懷兼任的國防部長職務，任命林彪為國防部長。從此，林彪開始主持中央軍委日常工作，擔任中央軍委副主席和國防部長。9月26日中央政治局決定改組中央軍委組成人員，彭德懷的名字已從名單中消失。
軍委擴大會議剛剛結束，彭德懷就向中央提出，要搬出中南海。他動情地說：“我沒有工作了，中南海也沒有活動的地方，再住會玷汙黨中央的聲譽。請求找個能勞動的地方住，實現我對毛主席的保證，‘勞動生產，自食其力。’”
經中央同意後，彭德懷舉家遷居到北京西郊頤和園附近的掛甲屯吳家花園。
彭德懷被罷官之後，給毛澤東寫了一封信，談他今後的打算是讀一點馬列主義著作，作一些社會調查，參加一些勞動，以自食其力。毛澤東對前兩條表示同意，對第三條則認為他年紀大了，不必了。
此後的6年間，彭德懷在吳家花園過起了種菜、養豬、修果木的日子。
1965年，毛澤東決定讓彭德懷再次出山，負責西南三線建設。彭德懷對三線建設投入了極大的熱情，到達成都後，滿懷革命激情，拚命工作，要將那被浪費了的6年時間搶回來，在三線建設艱苦的工作中努力奮鬥，將耿耿丹心獻給祖國和人民。