第一線部隊打得異常頑強慘烈，雙方都付出巨大傷亡，但是這個局麵並未能持久，攻防戰進行7天之後，上海防禦體係的致命弱點就暴露了出來。孤立據點難以久守，就是互相連結的防區也常常因為彈藥儲存少，補給不濟，或因通訊不暢而誤事。後援部隊上不來，傷員送不下去，沒有地方包紮，沒有止痛藥物。狹窄的房間內擠滿了傷員，氣味令人窒息，沒辦法在裏邊持續作戰。傷員痛苦得嗷嗷叫，眼睜睜看著鮮血流盡而氣絕，有的不堪折磨，默默爬出工事，麵向敵方，以求盡快了結殘生。
上海之戰役外圍爭奪十分激烈，但我軍近市區就越打越好打了。到5月20日，幾晝夜之間，解放軍前進200裏，奪幾縣城，南北兩路進攻部隊分別經由楊涇、尹橋、虹橋、龍華路、徐家彙、梵王渡、萬國公墓、中山西路、滬杭路，逼進主陣地，鉗製了吳淞要塞。
3.3上海“國軍”大逃亡
蔣介石原以為淞滬之戰一打響，美國便不會再袖手旁觀了。然而，幾晝夜的殊死戰鬥過去了，外圍陣地盡失，美國那邊仍無動靜，宋美玲從華盛頓傳到溪口的信息越來越令人失望，不但國會不同意“繼續卷入”，連“院外援華集團”也灰溜溜地躲到一邊很少露麵了。當此危急之秋，蔣介石要夫人盡最後努力，並做準備判斷肯定答複，時間不允許再拖了。宋美玲回答說：“最後努力已經盡過多次了，華盛頓拒絕考慮我們的任何意見。他們不會為上海之棄守而操心了。現在能夠為之操心的惟有我們自己。願上帝保。”
“出賣！出賣！我早曉得這個朋友是靠不住的。”蔣介石大失失望，向俞濟時說：“淞滬決戰已經沒有意義了。”
俞濟時大為震驚，所謂沒有意義即是準備放棄淞滬，對俞來說，這簡直難以想象。俞濟時不甘心：“三道外圍防線丟了還有三道市區防線，外圍打得那麼好，共軍是承受不起繼續肖耗下去的。”“即使能要上三個月甚至半年，孤單的一個上海，又有什麼作為呢。共軍經受不起消耗，我們更經受不起。留下這20萬精銳種子，開到台灣去繁衍生息。來日方長，退為上策。”
不單淞滬危急，各條戰線都呈現全麵崩潰之勢。掃蕩浙閩贛的解放軍銳勢不減；林彪的第四野戰軍17日拿下武漢，先鋒挺進南昌與陳賡兵團會合；聶榮臻、徐向榮的華北野戰軍打下太原，山西全境解放，閻錫山僅以身免；彭德懷的第一野戰軍攻克西安，此刻正分為兩路，一路向西北時軍，一路越過秦嶺指向漢中。從全局看淞滬就更不足道了。
5月21日湯恩伯報告：“對外航空中斷、國際電台停機，敵軍遠程試圖封鎖海道。”蔣介石終於正式下令放棄淞滬，對湯恩伯說：“你第一階級任務完成出色，有功黨國。因情勢變化，即刻作戰略撤退，把20萬精銳帶到台灣更一大功勳。”
盡管在湯恩伯在下令撤出南京的時候，便已有了撤離上海的準備，可船少人多，還是得邊打邊撤。
邊打邊撤，首先碰到的是誰打誰撤，哪個先撤哪個後撤。國民黨內部一遇到這類問題，門閥派係這個毒瘤就要發作了。湯恩伯是這樣安排的，撤退登船順序：五十四軍、五十二軍、七十五軍、十二軍、三十七軍、二十一軍、一二三軍、五十一軍。隔一夜又把最後麵的3個軍獨成立一個指揮所負責掩護前麵幾個軍的撤退。由誰來指揮呢？一二三軍最強，按說由顧錫九指揮，但因他是顧祝同之侄，瞧不起湯恩伯，因此前援江陰不力，不能由他擔任。二十一軍重創於江陰，戰力不強，王克俊也不合適。結果就落到五十一軍軍長劉義昌頭上。其實劉義昌也不合適，川沙一戰，軍長王秉鉞被俘，劉義昌剛從副軍長提拔為軍長，眾望難歸。但時間緊迫，顧不了那麼多，忙給劉義昌補了個京滬杭警備副總司令走馬上任。