陳大慶心裏明白，長江立體防線都被解放軍一舉衝垮，這小小的蘇州河怎在解放軍話下。他按照事先與湯恩伯商定的計劃，任命重新組建的第51軍軍長劉昌義為淞滬警備司令部副司令兼北兵團司令。這樣湯恩伯、陳大慶就把一副要散架的爛攤子撂給了劉昌義。此時此刻，劉昌義心裏也很清楚：湯恩伯、陳大慶留下來的第51軍是匆匆拚湊起來的，第21軍是四川部隊，第123軍由蘇北民團組成，他們把這些雜牌軍當作掩護撤退的擋箭牌和犧牲品，把我當成替死鬼，我劉昌義也沒有那麼呆！
上海市長陳良也在急於尋找代理人。他曾找顏惠慶、張菊、徐寄三位有名望的老人商量，請他們出山代理市長，可誰都不願當替死鬼。陳良無奈，隻好軟硬兼施把工務局長趙祖康抬出來代理市長，並在24日上午召開的警察局長會議上宣布了這一決定。
趙祖康早與中共上海地下黨有聯係，曾得到地下黨的指示，如果有機會應該把上海的政權接過來，迎接解放。
這一天終於到來，趙祖康暗暗自喜，為有機會維持上海秩序，保護上海，把大上海完整地交給人民而感到興奮，下令警察局要維持好秩序和社會治安，避免同解放軍衝突。隨後，趙又主動與中共代表李公然聯係，商定了八條安全移交上海的具體事項。趙祖康的行動為我軍順利接管上海創造了有利條件。
國民黨軍政頭目紛紛潛逃，部隊已處於土崩瓦解之勢。24日下午，逃至吳淞口外軍艦上的湯恩伯密令其嫡係各軍及各特種兵部隊準備登船撤逃。為掩護其親信部隊安全撤離，湯恩伯不惜丟棄雜牌軍。至25日，潰逃之敵第52、54、12軍及第4第99師和各特種兵團殘部均已集結在高橋、吳淞一帶窄小地區，遭我軍密集炮火猛烈轟擊。那些等船潰逃，膽戰心驚的敵軍官兵如熱鍋上的螞蟻，亂作一團。刺耳的喇叭聲、叫罵聲、哭喊聲交織在一起，如同為殘兵敗將送行的哀樂。
就在敵人狼狽潰逃之時，我軍鉗擊吳淞口的東、西線部隊加緊對敵攻擊，夾緊鋼鉗，截斷敵人的海上逃路。
湯恩伯、陳大慶等一夥軍政頭目乘坐的軍艦早已遠離長江口，正逃出黃浦江口的幾艘敵艦加足馬力向海上駛去，幾艘後逃的艦艇遭我遠程炮火轟擊，冒起股股濃煙。惟一的黃浦江水上通道已被我軍完全卡死，上海市區的守軍成了甕中之鱉。
5月25日淩晨，我軍占領蘇州河以南地區後，欲乘勝過河，全殲市內守敵。但是，各部隊從拂曉一直打到中午，仍未能過河，傷亡較重。原來，北岸守敵第37、51軍（重新組建）和交警部隊，憑借高樓大廈和工廠、倉庫等堅固建築物和大量永固性碉堡，居高臨下，織成稠密的火力網，封鎖住整個河麵和南岸沿河馬路。坦克、裝甲車日夜巡邏，稍有動靜就噴射猛烈的火力，阻止我軍前進。特別是第37軍，是年初偽國防部搜羅社會上亡命之徒組成的青年軍，配有美式裝備，戰鬥力較強。
本來，該軍想隨湯恩伯至吳淞口登船出逃，因逃路被斷，隻好半途折返回原地駐防，繼續頑抗。
我軍指戰員被敵人的頑固和凶殘激怒了。大家心中暗暗發誓，要為死難的戰友報仇。有的部隊把榴彈炮營從郊區拉到了外白渡橋南岸，有的調來幾十門大炮，將炮口對準百老彙大廈，想用炮火把對岸敵人連同那些高大建築物一起摧毀。第27軍軍長聶鳳智、政委劉浩天，心裏時刻牢記著陳毅同誌要把上海完好地交給人民的囑咐，一方麵命令部隊不準輕舉妄動，一方麵深入部隊了解戰況，做思想工作，研究解決辦法。
聶軍長、劉政委來到西藏中路一個團的陣地上，看到幹部、戰士們渾身是土，滿臉是汗，一雙雙布滿血絲的眼睛充滿著激憤和期待。多麼可愛的指戰員呀！
軍長、政委含著熱淚向他們表示慰問，傾聽他們的意見。有個負傷的爆破組長激動地拉著聶軍長的手說：軍長，下命令吧！三包炸藥，管保把對麵那座樓炸飛！
有的主張用炮火去收拾對岸敵人，群情激昂。有的剛從第一線趕來的指揮員，情緒高昂，發言中充滿了火藥味。他們提出一個極其尖銳的問題：是愛無產階級的戰士，還是愛官僚資產階級的樓房？是我們幹部、戰士的鮮血和生命重要，還是官僚資產階級的樓房重要？
不能再等了。聶軍長，劉政委馬上召開軍黨委緊急會議，統一思想，研究部署下一步作戰行動。
麵對大家嚴肅、期望的目光，聶軍長、劉政委心情也很激動。是呀！上海戰役打響以來我們的指戰員一直按照上級指示，寧可把敵人引到郊外去打激烈的爭奪戰，也不在市區內打攻堅戰，寧可自己多傷亡也沒有在市內使用大炮等重武器。可是頑固的敵人似乎摸到了我們的心理，龜縮在堅固的建築物和大量的坦克、裝甲車內瘋狂頑抗。我們的指戰員一批批血灑疆場，他們在即將看到上海解放時卻帶著仇恨和遺憾與戰友、親人永別了！真令人痛心呀！不能怪下級指揮員有此情緒，要怪隻能怪我們高級指揮員沒能及時根據戰況做好思想工作，提出解決問題的辦法。經過緊急磋商‘統一認識，聶軍長代表軍黨委向大家解答說：戰士和樓房‘我們都愛！我跟大家一樣，愛惜戰士的生命；大家也跟我一樣，愛惜人民的財產。現在那些樓房還被敵人占領著，再過幾個小時，我們從敵人手裏奪過來，它就不屬於資產階級，而是屬於人民。我們沒有任何權利毀壞它，必須盡最大努力去保全它。