采用新戰法後，葉飛兵團的推進情況得到改善，每天可向前推進5~6裏，傷亡也得以減少。
眼見吳淞吃緊，湯恩伯不得不采用拆東牆補西牆的辦法，從市區調出3個軍到外圍進行增援。
吸引湯集團在上海郊區作戰，符合粟裕原來的意圖，但吳淞一帶正麵狹窄，河流縱橫，兵力鋪展不開，而且每天逐段、逐點推進的方式，也意味著投入兵力再多都沒有用。
由此帶來的後果是，戰役時間可能拖長，部隊的傷亡消耗也會隨之不斷增加。
得再想別的辦法了。
約法三章
湯恩伯從市區調兵，傾巢出援，原本兵力就不足的市區已近乎真空狀態，何不就這時候乘虛而入？
現在粟裕唯一顧慮的，就是接管準備有沒有完成，要不然，冒冒失失闖進去，接管工作又跟不上，就可能發生各種意想不到的問題。
1949年5月18日，粟裕向總前委征詢意見。總前委當天複示：各項準備已初步完成，攻占上海的時間不受限製。
粟裕隨後增調兩個軍和特縱炮兵大部，分別加強和配屬葉飛、宋時輪兩兵團，做好了發動總攻的準備。
5月22日，經偵察得知，湯恩伯已把司令部搬上軍艦，蘇州河以北的敵軍正向吳淞收縮，蘇州河以南隻剩下5個交警總隊。粟裕判斷湯恩伯將從上海撤退，於是決定提前發起總攻。
5月23日夜，三野各部從四麵八方發起總攻。第二天，在發現敵軍全麵退卻後，粟裕下令迅速展開追擊，楔入敵軍縱深。
5月25日，解放軍分別攻進上海市區，占領蘇州河以南，並乘勢向蘇州河以北進擊，戰鬥進入關鍵時刻。
蘇州河以北的敵軍依托高大建築物，用火力嚴密封鎖蘇州河麵，將宋時輪兵團阻隔在南岸，而宋兵團卻不能還以重炮。
這是確保盡量完整地接管上海的需要。陳毅為此打了個很形象的比方，說進上海，就像是瓷器店裏捉老鼠，要捉住老鼠，但又不能撞壞一件瓷器。
在敵軍火力網的攔阻下，解放軍一波波衝上去，又一批批倒下，有的部隊按捺不住，向指揮部打來電話，要求解除不準使用重炮轟擊的禁令。
粟裕堅持不能鬆這個口。部隊另謀他策，用迂回側後攻擊的辦法，突破了蘇州河正麵陣地。
5月26日，葉飛兵團攻克吳淞，湯恩伯率五十二軍等部由海上逃往台灣、定海等地。
5月27日，粟裕進入上海市區，在聖約翰大學開設指揮所，繼續指揮市內的戰鬥。當天下午，殘留在蘇州河北的數萬敵軍放下武器投降，至此，上海獲得完全解放。
當前總委及軍管會進入上海時，大小汽車正一輛接一輛地在街上穿行，兩旁店鋪照常開門營業，人流熙熙攘攘，一派太平景象。整個上海市區，除了少數解放軍押俘虜通過外，一點戰爭痕跡都看不到，粟裕和他的部隊實現了預期的最佳結局。
上海戰役結束當天，粟裕下令，葉飛兵團全部進行入閩準備。
進軍福建的戰役由葉飛獨立指揮。這主要是因為葉飛曾在閩東堅持過三年遊擊戰爭，對福建的情況很熟悉，同時逃到福建的國民黨軍也多為殘兵敗將，野司方麵預料不會有大的戰鬥。
葉飛兵團入閩後勢如破竹，很快就解放了福建全省的大部分地區。1949年10月7日，他將同時攻占金門、廈門的方案（“金廈並取”案）上報野司。
此時粟裕正在北京出席開國大典。收到電報後，他感到葉飛等前線將領有輕敵情緒，用於攻取金門的兵力不足，於是在複電中明確指示“首求攻殲廈門之敵”。
葉飛據此改變了“金廈並取”案，決定先攻廈門再攻金門。
解放廈門一戰很順利，葉飛甚至差點兒就活捉了湯恩伯。當時湯恩伯見大勢已去，急忙呼叫軍艦放小艇接應，但適值漲潮，小艇難以靠岸，急得湯恩伯在海灘上團團亂轉。