以李宗仁、黃紹？、白崇禧為首的新桂係，幫助蔣介石發動了“四一二”反革命政變，建立了南京反動政權，但新桂係不甘心對蔣稱臣。新桂係尤以在平定廣西和北伐諸役中屢建戰功而自傲，不大聽命於蔣介石。蔣介石獨裁專製、排斥異己的行為，引起多方不滿，這使桂係與蔣介石發生糾紛時，能夠得到他方的同情與幫助。本年春，蔣曾施詭計企圖逮捕第六軍軍長程潛，程僥幸逃往武漢，但蔣介石不罷休，設圈套把程的第六軍強行繳械收編。蔣的這種毒辣手段，造成極壞影響。“四一二”政變後，蔣密令何應欽執行剿滅桂係計劃，何沒執行，原因一是當時蔣、桂不相上下，無成功把握；二是何應欽與白崇禧私交甚厚，何不想無故翻臉。蔣認為何“已經軟化”，對其產生懷疑，二人關係日益惡化。李宗仁、白崇禧知道蔣介石的陰謀後，遂加緊勾結各方反蔣勢力，準備把蔣趕下台。李宗仁借西討武漢之名，將第七軍部署在南京以西地區，又聯絡浙江周鳳岐的二十六軍將部隊開到南京周圍，對南京形成包圍。蔣介石為了抵抗武漢方麵東征，將主力部隊全部調來防禦，造成徐州空虛，直魯軍趁機攻占徐州。蔣介石無端指責何應欽無能，他親臨徐州前線指揮，並揚言此次打不下徐州，便不回南京。結果，失敗得更慘。8月8日，蔣介石慌忙逃回南京，張宗昌、孫傳芳大軍直逼長江。蔣介石把前線總指揮、第十軍軍長王天培作了替罪羊，不問情由、不經審判、不宣布罪狀，便給槍決了。他這種諉過於人，功歸自己的作風，引起各部將領極大恐慌。王天培是黔軍將領，何應欽的同鄉，何對此頗有兔死狐悲之感。李宗仁、白崇禧等將領見蔣隨便殺人，不用法律，當然人人自危，生怕做王天培第二，決計尋機對蔣發難。蔣敗退南京後，還在耍兩麵派手段，一麵致電馮玉祥表示讚成寧、漢合作，一麵又要白崇禧率部與武漢作戰。但桂係軍隊已控製了南京四周，故而向蔣攤牌，白崇禧公開頂撞蔣介石，拒不執行對武漢作戰的命令。其他反蔣分子紛紛表示願與武漢妥協，甚至有人說：“不管長衫佬(指胡漢民、吳稚暉等文官、黨棍)讚成與否，我們主張合作。”
蔣介石意識到桂係在“逼宮”，便以辭職相威脅。吳稚暉出麵召集寧方委員開會。當時，吳稚暉說的話，不外乎正在北伐，蔣介石不可以辭職。吳剛坐下，何應欽站起來說：“蔣是自己要走的，他走了很好，從此我們也可以愛一愛國家。”接著就是白崇禧站起說：“革命是大家的事，蔣走了很好，我們大家聯合起來做革命工作，少了他，我們一樣可以做。”會場空氣非常緊張。當蔣介石表示他需要“休息一下”時，白崇禧立刻表示讚成。接著，何應欽支持白的意見，李烈鈞也同意蔣介石可以暫時“休息”。李宗仁表示“請總司令自決去處”。蔣介石見局麵難以挽回，隻好決定下野，出國到日本去。
“8月14日”
返抵溪口故裏，晚宿樂亭，深夜，憂念國事，日記曰：“如何可使革命根本解決耶？”
汪精衛逼蔣介石第一次下野，而李宗仁、白崇禧、何應欽也樂於順水推舟，希望蔣下野，讓他們也“愛一愛國家”。這也是蔣、汪鬥爭的第二個回合。
8月11日，蔣在日記裏表示“待機而動”以獲“最後之勝利”。
於是，12日，蔣被迫辭職。13日報上發表辭職宣言。
但他並不灰心，他還在考慮下一步。
事實上蔣下台後，並不真想當什麼山野之人，而是仍緊緊抓住黃埔軍官不放；同時，又通過陳果夫、陳立夫二兄弟，控製各地黨政幹部，為他複職作軍事、政治上的準備。
“10月4日”
遊寶？。見建築皆已歐化。
日本進步之速可驚，社會程序與教育亦有進步。未至日本以前，以為其物質進步，精神必衰退，今乃知其興盛猶未艾也。
1927年9月下旬，蔣介石利用國民黨各派互相廝殺、爭吵不休的機會，決定去日本一遊。蔣去日本的主要目的，是拜見宋美齡的母親倪氏。宋美齡的母親這時正在日本神戶有馬溫泉養病。蔣介石去見宋母，是請求其同意他與宋美齡結婚，對蔣介石來說，這是決定他以後政治生涯的重大抉擇。
9月26日，蔣介石從奉化溪口來到上海宣言“此行與政治無關，唯在獲宋氏家族對美齡女士婚事之同意。如獲同意，則將在上海結婚，然後偕遊海外”。據說，宋子文起初不同意蔣介石與其妹美齡的這樁婚事，後來宋子文不但同意，還先行赴日本，為蔣訪日安排一切。
9月28日，蔣介石在張群、陳群等人的陪同下，由上海乘輪前往日本，29日抵達長崎。
蔣介石到日本，發表了簡短講話：“餘此次來日，乃欲觀察及研究十三年以來進步足以驚人之日本，以定未來之計劃。且餘之友人居日者甚多，欲乘此機會重溫舊好，並願藉此與日本名流晉接。”
10月3日，宋子文帶領蔣介石來到神戶有馬溫泉，在有馬大旅社下榻，房間就在宋母的隔壁。蔣介石剛到旅社那天，馬上就拿出三百元的小費，並且說：“實在太少一點……”可是，在當時倒的確是一筆大數目。蔣介石一擲千金，加上衛士警戒森嚴，令旅社老板娘千代子大吃一驚，說：“畢竟氣派不同。”
10月4日，蔣介石到隔壁房間拜見了宋母。有馬大旅社的老板娘千代子捧著下午茶走進去，剛由隔壁宋母房間回來的蔣介石，顯露出平常所沒有的興奮神情說：“老板娘，成功了！成功了！婚約成功了！哦！對了，給你寫字吧！來，來！馬上替我磨墨。”不及把墨磨好，蔣介石便乘興揮毫，寫了“革命”、“寧靜致遠”、“千客萬來”、“平等”等五幅字。
來日本這幾天，蔣介石在長崎與神戶作了一下漫遊，故有日記所雲之感慨。
“10月11日”
日本對華政策之錯誤：(一)以為中國革命功成，其東亞地位動搖。(二)利用中國南北分裂，從中操縱。(三)利用無知軍閥，壓製民眾。其政治家之識力，乃如是乎？
1927年夏季，現存的三足鼎立的反動政府：奉係軍閥的北京政府；蔣記國民黨南京政府；汪記國民黨武漢政府。它們都自稱為合法政府，各自為政，稱霸一方，互相爭雄。這時，中國的新舊軍閥恣意橫行，官僚政客四處鑽營。而帝國主義則到處插手，推波助瀾。各帝國主義從各自的利益出發堅持不同的主張。日本帝國主義希望蔣介石集團聯合閻錫山、張作霖，以進攻汪精衛和馮玉祥；英美帝國主義希望寧、漢聯合以進攻張作霖。
“10月13日”
研究日本對華方針，歸納其觀念共5點：一、滿蒙經濟發展。二、滿蒙為日俄戰爭犧牲所得來；日俄之戰，為東亞存亡之戰。日本之侵略中國，即基於此觀念之誤，而漠視中國革命進步之環境。三、投資滿洲交通實業，謂中國人皆受實惠。四、不在政治上吞並滿洲，致擔負義務。五、須保留其在滿蒙之權利。
蔣介石與宋美齡的婚約達成之後，在日本立即開始了頻繁的政治活動。10月13日，蔣介石一行到達東京。日本報界都以大字標題登載蔣介石到達日本的消息。報稱：“蔣介石氏發表對日宣言，宣稱對日聯合之必要，蔣介石今日將拜謁頭山滿。”
頭山滿是日本黑龍會的首領。黑龍會是日本的軍國主義團體，成立於1901年。其主要成員為在中國活動的日本浪人。標榜“大亞細亞主義”，極力策動侵占中國大陸，對內破壞工人運動，對外支持日本政府侵略中國和朝鮮，並從事間諜活動。頭山滿和日本軍政界、外國使節，都有密切聯係。他諳熟中國情況，有中國通之稱。蔣介石急於拜見頭山滿，目的是通過這位關係複雜的中國通，與日本各界及各國使節進行廣泛接觸。蔣介石到東京的當天就去拜會頭山滿，為了向頭山滿表示親近，說自己還沒有住處，請代尋一個清靜的住處。頭山滿把蔣介石安置在他的鄰居家裏。二人相處十分融洽。蔣介石親筆寫下“親如一家”的條幅，留在住所，以表示對日本軍國主義分子的親善。頭山滿在回憶這段往事時說：“蔣氏無論如何是和日本一致的。他對於共產黨，不管在國內或者國外，一定要加以排斥的。當他在表示這樣的決心的時候，我和他的意見是一樣的。”
同時，在這一天(10月13日)蔣介石發表了一篇《告日本國民書》。這是要求日本方麵對於其自辛亥革命以來的中國政策要有所反省，以及包含有痛感中日之間的圓滿合作，對亞洲、進而對於世界的和平安定有關密切關係的深切呼籲！
“……我孫總理嚐稱‘中日兩國為兄弟之邦’，不論在任何方麵觀察，均有唇齒相依之關係。中正深信貴國國民希望我中華民族之獨立，必較他國國民尤為真切。……
“中正嚐以為欲期中日親善之實現，必先掃除兩國親善之障礙；障礙如何，厥為中國國民所共棄之軍閥也。……
“唯其間有不明中國國情之國家，不顧東亞之安危，徒眩惑於目前短小之權利，利用我國民所痛心疾首之萬惡軍閥，以間接壓製我國民眾，阻撓革命新力量之膨脹，而連結國際間永久不解之仇恨，以貽我東亞民族無窮之恥辱。
“明達如貴國朝野人士，……中日兩國根本之親善，非利用軍閥所能成功，亦非少數人之相互結合所能奏效……吾人今後努力親善之工作，首當掃除國民間以前之誤會感，以及其親善障礙之軍閥，並切望日本7000萬同文同種之民族，對於我中國革命運動徹底了解，而予以道德及精神上之援助。……否則，……我兩國之親善亦無由實現，其影響於東亞全體之大，固不待言；而最近世界之戰禍，亦將胚胎於其間……”