5月25日下午，劉昌義偕王中民、軍法處長魏震亞和一名參謀，乘坐兩輛坦克和一輛吉普車，通過造幣廠橋向解放軍陣地駛去。臨走時，劉昌義招呼參謀長王震譚留在軍部，說：“如果湯恩伯、石覺有電話來，就說我到前線去了。”到了解放軍八十一師師部，以羅維道為解放軍代表，劉昌義為國民黨軍代表，雙方進行了商談。劉昌義說：我早就同情共產黨了，我要求起義，保留部隊的建製和番號。羅說：隻要停止抵抗，你說要起義，就算起義，不過你要保留部隊編製和番號，萬萬不可能。接著，劉昌義在協議書上寫著：“停止抵抗，接受中國人民解放軍改編，保留部隊編製和番號。”羅指出最後一句不行，必須刪掉。劉見羅的態度堅決，也就不再堅持，同意刪去最後一句。雙方在協議書上簽了字。簽字後，劉昌義打電話給五十一軍，命令立即停止抵抗，接受解放軍的改編。他還以國民黨淞滬警備副司令的名義，對其他分散在各地的部隊和交警總隊寫了十多封信，要他們放下武器，停止戰鬥。交警總隊是國民黨軍事委員會調查統計局的基本武裝力量，原名“忠義救國軍”，1946年4月改編為交警總隊，直屬交通部管轄。同時，解放軍八十一師派人運用廣播將協議書公布出去，使國民黨官兵人人皆知。此時，劉昌義要求會見三野司令員陳毅，羅政委說：我們找不到司令員，你可以同聶鳳智軍長談談。於是羅維道偕劉昌義到了駐在虹橋路的解放軍二十七軍軍部，受到聶鳳智的接待。劉昌義講他早就想起義了，此時又來到解放軍防地，就是表示有起義的決心。聶鳳智和藹地說：“我聽羅政委在電話裏談起，已向陣毅司令員作了彙報。”並說，對劉昌義本人的安全，解放軍絕對予以保證；至於待遇問題，對於劉軍長和一些貢獻較大的國民黨人都將給予特別優待，請放心。劉昌義聽了，喜形於色，連說：“謝，謝！”