實際上，美國對拉攏陳誠阻蔣退台有可能失敗是有心理準備的。早在雙方首次密談之時，美國就提出了邀請孫立人參加台灣新政權建設的建議，實際上這也是美國為阻蔣退台實施的第二套方案。當拉攏陳誠失敗後，美國隨即轉向扶植孫立人，試圖第二次阻蔣退台。對於扶植孫立人主政台灣，礙於陳誠之關係，美國不便直接提出。恰在此時，陳誠得知這一消息，在與蔣介石密談後，決定將計就計，以守為攻。一方麵，他主動找到美國駐華代表，表示願意讓位給孫立人；另一方麵，卻請求美國致電蔣介石以征得其同意。蔣介石得到消息後，即密派代表陳質平去試探孫立人。陳質平到達台灣後，向孫立人轉達了蔣的態度：一旦大陸作戰失敗，蔣總裁不想流亡海外，隻想在台灣求得一席生存之地。如果孫將軍不同意的話，總裁隻能去菲律賓。孫立人聽後非常驚懼，第二天一早，就親自前往蔣介石駐紮的馬公島，向蔣介石明確表白：“一切以總裁之命是從。”
事實上，孫立人本人也不支持美國分離台灣。上海解放前夕，美軍太平洋統帥麥克阿瑟將軍曾以“會商台灣安全防備”為名，力邀孫立人赴東京商議台灣自主事宜，就遭到孫立人的拒絕。孫立人的表態讓蔣介石放心不少，於是決心登陸台灣。但何時登台，蔣介石還是很猶豫。陳誠在台灣一柱擎天，加之美國的利誘，能否時刻忠於自己，他還是沒有十足的把握。恰逢此時解放軍已攻入上海市區的消息傳來，去台灣已刻不容緩了，蔣介石最終決定26日起程。
5月26日蔣經國日記：“父親於今日自馬公飛岡山轉高雄壽山。”那麼，為什麼蔣介石來台灣，不徑飛台北，而飛岡山轉高雄呢？蔣經國日記僅寥寥數語，並沒有寫陳誠有沒有去接，似有隱諱。而這一疑團，在江南所著《吳國楨八十憶往》中卻可見端倪，茲轉引如下：1949年5月，蔣介石自舟山致電陳誠，告有赴台之行，陳在24小時內卻未行複電，蔣隻好改從高雄登岸，因高雄非陳的勢力範圍。孫立人、彭孟緝等迎接，蔣介石劈頭第一句即是：“我此地安全嗎？”孫立人回答：“由我們保護，有什麼不安全？”由此足見蔣介石對陳誠疑忌至此。至台灣後，蔣介石便頻繁約見台灣黨政要員；他要用實際行動向美國人證明，台灣已經在他蔣總裁的手中了。試想，如果當初陳誠在美國的高壓和誘惑下，使台灣“自立”，而拒絕蔣介石入台，那麼，這60年台灣的曆史全部都要重寫。
蔣介石登陸台灣，事實上宣告了美國阻蔣退台方針的破產。盡管此後美國再次提出以聯合國托管名義分離台灣，甚至提出讓台灣獨立建國，都遭到蔣介石的強烈反對。蔣先生始終反對“台灣獨立、國際托管”和“兩個中國”，堅持一個中國的民族立場。在當時，台灣人心浮動，美國讓台灣獨立，他就說：“誰搞台獨，我搞他腦袋！”現在這句話還一直流傳著，可謂給那些狂熱的台獨分子一記響亮的耳光。直到1950年1月5日，美國總統杜魯門被迫宣布：承認中國對台灣行使主權，美國目前無意在台灣獲得特別權或建立軍事基地，亦不擬用軍事幹預台灣現在局勢。杜魯門的講話表明了美國政府放棄了以政治、經濟手段分離台灣的計劃。此後，美國不再提阻蔣退台的事情了。（此為後話，略提不表）
蔣介石父子赴台後不久，陳誠即致電蔣介石，表明想辭去東南軍政長官。他在電報中表示：“以職半生不死之身體，而將黨政軍職務，集於一身，必致誤鈞座複興之大業。對於軍政長官一職，懇另簡年富力強，而具備以上所述各條件者充任為禱。”對其請辭要求，蔣介石未予批準。陳誠足足鬧了兩個月，蔣介石始終紋風不動，根本不準他的辭呈。蔣介石在台繼續操控軍政大權後，對陳誠依舊予以重用；但對其權勢，則進行了限製。時任空軍總司令周至柔野心很大，“……與陳誠私見甚深，忽由滬赴粵而不敢來台，因其覬覦省主席而不得，其漸走極端……”周至柔與陳誠交惡，與其有台灣省主席之爭，蔣介石對周不僅私衷裏不信任，而且厭惡至極；但為了製衡陳誠權力，蔣介石仍對之予以重用（1957年8月16日至1962年12月1日第六任台灣省政府主席），如仿諸葛亮之用魏延、楊儀之事。
陳誠自奉蔣介石之命赴台後，先後被任命為台灣省主席兼台灣警備總司令；並兩度被選為國民黨副總裁，“行政院院長”；1954年被選為中華民國“副總統”，同年11月兼任“光複大陸設計委員會”主任委員；1964年3月，再度當選“副總統”。
步入晚年的蔣介石，往往比較情緒化。一旦對某人產生了不良感觀，不僅很難改變看法，而且會愈演愈烈。自20世紀50年代末開始，因“行政院”人選及蔣介石二次連任“總統”問題，蔣介石與陳誠出現了難以彌補的隔閡。“三十年來苦心培植，不惜他人怨恨與犧牲一切情感而扶植至今。其結果如此，傷心極矣。此為餘平生對人事幹部所最失敗、痛心之一次也。”此則日記表明，蔣介石對“副總統”兼“行政院院長”的陳誠在“行政院內閣”人選上的“固執”（按：陳誠堅持讓黃少穀、梅貽琦出任“行政院副院長”和“教育部部長”，而非蔣介石指名的王雲五、張其昀）表示了極大憤怒，認為陳誠欺騙他，有負其栽培，是他“平生對人事幹部所最失敗、痛心之一次也”。值得注意的是，蔣介石在這裏特意提到，為了扶植陳誠，他甚至不惜犧牲一切情感；也就是說，之前蔣介石的確是有意將權力交給陳誠，而不是蔣經國。