12萬人馬，相當於國民黨殘餘陸軍的1/3，裏麵還有戰鬥力最強的五十二軍，一旦全部打光，守備台灣就成了問題，蔣介石對此十分擔心。
1950年5月1日，四野解放海南。5月中旬，舟山守軍突然全部奉令撤退，此時距離粟裕完成解放舟山的全部準備，僅隔1~2個月時間。
對蔣介石而言，這是一個痛苦但又不失明智的選擇，他可以集中兵力固守台灣了，而對粟裕來說，“不戰而屈人之兵，善之善者也”。
舟山解放後，三野又陸續解放了東山島、嵊泗列島等，至此，除台灣、金門、馬祖、台州列島外，華東大陸及東南沿海島嶼已被全部解放。
粟裕一直關注著金門作戰的準備。解放舟山之前，福建方麵的兵力和船隻都不足以進攻金門，之後主動權就增大了，粟裕將兩個軍調往金門，船隻也相對集中，基本滿足了渡海作戰的需要。
與此同時，粟裕還擔負著解放台灣的重任，在他的構想中，舟山之役就是攻台“最實際的演習”，兩個進攻兵團中便包括了準備用於攻台的宋時輪兵團。
朝鮮戰爭的突然爆發，讓解放金門和台灣的計劃被雙雙推遲，解放軍的戰略方向由東南轉往東北。
毛澤東第一個想到點粟裕為將，讓他率部抗美援朝，但粟裕這時已經病倒。長期過度的緊張疲勞，以及戰爭中積累的創傷，終於讓他不堪重負，不僅難以正常理事，連左右目視都很困難，後來經檢查，槍傷曾兩次傷及其腦神經，他的整個腸子已經錯位和相互扭結。
經中央軍委批準，粟裕到青島療養，半個月後，病情仍未好轉，毛澤東這才決定改換彭德懷掛帥，並安排粟裕到莫斯科進行治療。
1951年8月，經過治療，粟裕身體基本痊愈，次月便從蘇聯歸國。回國後，先後在總參謀部出任副總參謀長、總參謀長。
1955年9月，開國後首次授予軍銜。粟裕被授大將銜，位列十位大將第一名。
1975年，東台三倉，粟裕重訪故地。
這時的粟裕已經離開軍隊很多年了。在被授予首席大將3年之後，他在軍委擴大會議上遭到嚴厲批判，隨後便被撤銷總參謀長職務，並被限製接觸軍隊。
從此以後，粟裕所取得的戰績被有意淡化，甚至抹掉，連蘇中“七戰七捷”也沒人敢提了。
使粟裕感到痛苦的，當然不僅於此。一位三野的老幕僚評價，粟裕“有現代頭腦”，他在軍隊現代化和國防建設上做過很多深入有益的思考和探索，那都是一些真知灼見的。隻可惜這些看法和建議並不被重視，許多人感歎：“粟裕是被浪費的人才！”
當粟裕再一次回到三倉，真是不勝感慨，昔日戰火紛飛的地方，今天已是一片繁榮景象了。
壯麗的街道，輕吟的和風，都顯示著昨日的崢嶸蹉跎早已遠去，但是賦閑的將軍並未忘卻自己與生俱來的使命。
1978年，粟裕在接見一位外國軍事代表時說：“軍人有退役，但愛國、關心國防是沒有退役的。”
他向中央提出請求，“將來一旦打起仗來，我還要重上前線”。在率軍事代表團出訪非洲返回時，代表團曾在法國巴黎做短暫逗留，粟裕避其他名勝景點不遊，特地去參觀和考察了“二戰”盟軍的登陸場——諾曼底。
粟裕寫過一首詩，叫“老兵樂”，最末兩句起初是：“遍體傷疤堪自勉，此生聊可慰諸先。”後來他做了修改，改成：“對鏡不須歎白發，白發猶能再揮鞭。”
1984年，粟裕因病去世。其主墓地分布三處，一在安徽黃山潭家橋；一在浙江麗水；一在東台三倉，正好都是他軍事生涯中極重要的轉折之地。
作為一個老兵，他將永不退役。