5月22日午時，與張震請示中共中央軍委：“依據蔣匪整個局勢觀察，已全線潰退，福建守敵不多。遵照軍委予四野相機進入粵桂任務，如此我入閩部隊是否可能提早，應準備何時出動，以便淞滬戰後進行準備調整部署。如何，請示。”中共中央軍委於5月23日複電指示：“你們應當迅速準備提早入閩，爭取於六七兩月內占領福州、泉州、漳州及其他要點，並準備相機奪取廈門。入閩部隊隻待上海解決，即可出動。”同時對各野戰軍向全國各地進軍作出部署。
5月23日6時15分，與張震發出致第九、第十兵團和特種兵縱隊首長並報總前委、中共中央軍委電：有情報說國民黨國防部決定明日從上海撤退，並已準備就緒。判斷“敵撤守可能頗大”。詢問第九兵團能否提前攻占蘇州河以南與高橋，第十兵團能否提早攻占吳淞或寶山。
同日接到敵情偵察報告：湯恩伯已率領一部兵力逃到吳淞口外的軍艦上，蘇州河以北敵軍正向吳淞收縮，蘇州河以南隻剩下5個交警總隊。決定乘敵人準備撤退尚未破壞城市之前發起總攻，原定第一階段和第二階段攻擊計劃同時進行。各部奉令於當晚發起總攻，戰至5月27日，殲滅上海國民黨守軍153萬餘人（湯恩伯率領5萬餘人乘軍艦從海上逃走），並使上海市區沒有遭受大的破壞。
上海戰役勝利結束。5月25日晨，向中共中央軍委報告：已有3個軍進入上海市區，市內秩序良好，市民照常營業。同日24時又電報告：今晚率輕便指揮機關進入上海市區。上海守軍殿後部隊4萬餘人接洽投降。5月28日，與張震向中共中央軍委報告淞滬之敵已於5月27日9時全部肅清。5月30日，中共中央電賀上海解放，指出：“中國和亞洲最大的城市，中國最重要的工商業中心上海，已於二十七日解放。我人民解放軍在此次作戰中俘敵十餘萬眾，紀律良好。上海各界人民積極與我軍合作，使蔣匪破壞計劃大部失敗，全市秩序迅速恢複。”
同日與張震聯名發出致中共中央軍委、總前委電，提出逐漸求得全軍裝備標準化的五點建議。
5月25日23時，陳毅從丹陽到達蘇州，與粟裕會合。5月26日，陳毅乘車去上海，行前囑粟裕發電報給鄧小平、饒漱石率華東局機關及接管人員去上海會合。
同日得知三野第七兵團部隊占領寧波，國民黨軍第八十七軍有向定海撤退企圖，判斷蔣介石可能將舟山群島作為基地，認為此著對我滬杭甬地區危害甚大。與張震電示譚震林、王建安、吉洛：“你們應乘滬敵主力尚未撤退之前，迅速以足夠力量占領定海及其他各重要島嶼”。後來，由於上海之敵五萬餘人逃到定海，舟山敵軍力量加強，又於5月28日電示七兵團：目前進占定海確有困難，同意暫緩行動，但仍須繼續準備，妥為布置，於絕對有把握時再行攻占定海。6月1日，粟裕電複譚震林5月26日致總前委和三野前委電，說明攻占定海的決策經過，以及調第二十三軍參加淞滬作戰情況。
5月26日17時，率領三野指揮機關從蘇州出發，於5月27日晨到達上海，在聖約翰大學開設指揮所。
同日簽發《第三野戰軍淞滬警備命令》，決定以第二十、第二十六、第二十七、第三十、第三十三軍及特種兵縱隊擔任上海市區、吳淞要塞區及郊區各縣的警備任務，以宋時輪為司令員，郭化若為政治委員，警備司令部歸即將成立的上海市軍事管製委員會直接指揮。
5月27日中國人民解放軍上海市軍事管製委員會宣告成立，陳毅、粟裕分任正副主任。
同日下令不擔任警衛任務的部隊於戰鬥結束後全部撤至市郊休息，第十兵團全部轉移到蘇州、常熟、嘉興地區休整，進行入閩準備。
5月28日午時，中共中央軍委電示粟裕、張震：速告湯恩伯從海上逃走的部隊番號、人數、戰力及方向。粟裕、張震於5月29日酉時複電，報告：湯恩伯部殘敵已逃至定海、廈門、基隆。
同日中共中央軍委致彭德懷、賀龍、劉伯承、鄧小平、陳毅、饒漱石、粟裕、林彪、羅榮桓電，作出預防帝國主義武裝幹涉的部署，指出：“陳饒粟以一個軍附以必要數目的炮兵開青島附近，待命奪取青島，爾後即任青島守衛。南京、鎮江、蘇州區域已有兩個軍，浙江區域已有三個軍，甚好。吳淞、上海區域應有七個軍，特別注意加強吳淞江陰兩區的炮台設備。以上各軍，除擔任城市守備及鄉村剿匪任務者外，均應迅即部署整訓。攻取福建的兵力，不要超過兩個軍。”