28日下午，風和日麗，坐落在江西中路、漢口路轉彎口的上海市政府，大樓頂上紅旗招展，樓房內外清洗一新，正2點時分，陳毅和各方麵負責人同時到達，在市府二樓，陳毅市長和曾山、潘漢年、韋愨副市長進入市長室依次坐好後，便要禮儀官——總務處長熊中節，傳喚國民黨上海市代市長趙祖康；趙祖康原是個著名的道路與巿政工程專家，任國民黨上海巿工務局長。5月23日槍聲漸緊，代理巿長陳良逃跑前，將上海市的大印丟給了他。當趙走進市長辦公室，室內空氣嚴肅，幾位身著黃軍裝，腰帶上掛著短槍，神情威嚴的警衛員站在陳毅身邊。赫赫有名的儒將陳毅，一雙劍眉，平添不少威嚴，兩顆亮眼，頓生許多智慧。趙祖康被帶到陳毅麵前，不由的兩腳不聽使喚地抖起來。下麵是二人對話：
陳：“你是趙祖康？”
趙：“是！”
陳：“你是國民黨上海市長？”
趙：“是！”
陳：“軍管會的命令你執行得如何？”
趙：“條條照辦！”
陳：“檔案、資產呢？”
趙：“完全無損，可一一查點。”
這一問一答過後，陳毅微笑著站起身，伸出手來，握著趙祖康的手，有力地搖了搖，說：“趙先生你受驚了，請坐！”趙祖康萬萬沒料到陳毅巿長，這位威嚴的共產黨驍將居然會站起來和自己握手，並讓自己“請坐”。他忙不迭地說：“哪裏，哪裏……”一邊手忙腳亂地坐在陳毅對麵。坐定後，他看看陳毅一張和藹可親的笑臉，心中一下子輕鬆安全了許多。接著，陳毅用親切的四川話說：“趙先生，今後有何打算？”趙祖康盯著陳毅的眼神回答：“隻要你們寬大我，我願意回上海交通大學繼續教我的書。”陳毅半嚴肅半開玩笑說：“趙先生，那可是大材小用啊！”當他察覺趙祖康內心有些不安時，便以誠相見地說：“不要有其他想法。你留下來是對的，國家現在需要人才，你可以發揮自己的專長。我想請你繼續擔任工務局長的職務，你看如何？”沒容趙祖康回答，陳毅就站起來，伸出大手說：“我相信，我們一定能很好合作的。”趙祖康不知是不安還是激動，也伸出手來握住陳毅的手說：“服從長官的命令。”並交出上海市的大印。交接儀式完成後，陳毅等來到會議廳接受祝賀，陳毅對市府200多個老職員發表了講話，他說：“這次解放軍的勝利，不是共產黨一黨的勝利，跟過去甲打倒乙，乙又打倒甲的勝利根本不同。我們絕不會‘以暴易暴’。共產黨絕不會埋沒人才的……希望大家各安職守，辦理移交，並聽候人民政府量才錄用。”在一片熱烈掌聲中，上海市的新政權誕生了。
會議結束，陳毅把夏衍留下來說：“夏大作家，明天就要開始接管了，你打算怎麼幹？”夏衍回道：“這個，還是聽陳市長的指示。”陳毅說：“那我就不客氣呀。你們文教係統管的大部分是知識分子，更要注意‘先接後管’。情況不清楚不要亂管，先讓他們放心、安心，然後和他們談心交朋友，千萬不要居高臨下。你把這個意見告訴文管會的所有成員。”
蔣軍潰逃中的紛爭
守備上海的蔣軍部隊，共有22萬餘人，一隅之地，兵力可謂雄厚，但自5月12日起到27日上海戰役全部結束，前後隻有兩個星期，便宣告崩潰。盡管在戰事中、後期，蔣介石天天在吳淞口外軍艦上督師，天天罵人，也無濟於事。到了5月23日，湯恩伯以5個團的兵力，在金家橋一帶與解放軍作了一次主力戰，結果慘敗。經過此一戰，蔣介石知道戰事無法挽回；繼之，在24、25兩日，浦東、浦西蔣軍又被殲，絕望之下，蔣對湯恩伯下令總撤退。戰事開始後，上海防守司令石覺、上海警備司令陳大慶，就把指揮所遷到吳淞要塞炮台上，23日，湯恩伯也把他的總部搬到吳淞口外軍艦上，都在隨時準備逃跑。所以到了湯恩伯下總撤退令時，上層官僚已不在乎，卻在中下層人員間，因為有嫡係、雜牌之分，又有戰鬥與勤雜之別，在船隻分配、得令先後，都有厚此薄彼之差，一時間鬧得不可開交。原屬東北軍係統的五十一軍，在守揚中、江陰時，已被認為軍心不固，其防地臨時為陳誠係的五十四軍第八師所替換，他們退到上海後，卻被送到川沙去擋頭陣。當時，該軍軍長王秉鉞覺得其中有鬼，認為湯恩伯是拿雜牌擋頭陣。果然在5月17日即被殲，王秉鉞是上海戰役中第一個被俘的軍長。闕漢騫的五十四軍是蔣嫡係部隊，湯恩伯在發給他們的撤退命令要旨中說：“由於時機緊迫，船隻缺乏，凡重武器及馬匹車輛，應予徹底破壞，或投入黃浦江中。所有各級運輸部隊和各級司令部勤雜人員，應一律留置現地，而盡量撤退戰鬥指揮人員。”當時，交警部隊已撤到五十四軍第八師陣地附近，石覺特別在電話中囑咐八師師長施有仁，不要把撤退消息告訴交警部隊。在上海撤退中，因未接到命令而被丟棄的三十七軍軍長羅澤闓，於上海解放後不久，化裝搭乘外國輪船，輾轉香港逃到了台灣。羅以前做過胡宗南的參謀長，遼沈戰役前後，當過國防部第三廳廳長和蔣介石的參軍，是個得意而驕橫的人，在遼沈戰役中，他在蔣介石麵前，與杜聿明、廖耀湘都有衝撞。這次他憤恨湯恩伯不通知他撤退，所以一到台灣，就極力對湯恩伯進行攻擊和控告，而與湯一起的石覺、陳大慶更不示弱，與羅反唇相譏，雙方鬧得相持不下，迫使蔣介石不得不召開上海作戰檢討會，平息風波。參加會議的人員為逃台各部隊師長以上的指揮官。本來蔣介石想主持會議，後來覺得自己也參與了上海之戰的督師，怕在人們七嘴八舌之下處於被動地位，便叫陳誠主持。會前，石覺、陳大慶分途向出席會議的人疏通，說：“此次上海作戰和撤退，不論損失大小，隻要能撤到台灣，都是有功的。至於過失方麵，湯總司令一個人替大家承擔，希望大家在檢討會議上，對湯總司令要言下留情。”想用這種辦法孤立羅澤闓。開會時，羅澤闓首先發言，說：“湯恩伯身為統帥，在上海撤退時，帶頭逃跑，將部隊遺棄不顧。像這種行動，將何以對部下？更何以對黨國？應該自殺以慰國人！”羅的話比蔡文治在上海說的更難聽，把湯恩伯氣得臉紅脖子粗，羅的話音一落，湯立刻接上去說：“你羅澤闓能說會道，在會上說話如同猛虎一般，但是同共匪作戰，卻連綿羊也不如。你的部隊在浦東不戰而潰，使得整個戰局逆轉，以致指揮部無轉圜的餘裕，你還說我該自殺，你就早該自殺！”湯的話一完，羅接著反駁，二人對吵，別人無法講話。陳誠坐在主席座上搖頭歎息，一言不發。爭吵的結果，二人都提出要求開軍事法庭解決，陳誠眼看無法解決，便順水推舟說：“好，就由國防部組織軍事法庭進行解決罷。”會議在一片吵鬧聲中而散。至於組織軍事法庭一事，此後再無人提，也就不了了之。