八月十一日，馮玉祥電複李宗仁、胡漢民等，謂在國民黨執監會議開會前，可否舉行一預備會？如蒙同意，建議以安慶為開會地點。十二日李宗仁等複馮玉祥十一日電，讚成安慶會議之舉。請馮決定會期並屆時蒞會。蔣介石也簽名此電，但即日離京去上海，實行下野。行前將第十軍軍長王天培槍決，說是他應對徐州失守負責。同時發表了下野通電，申明：一、他反共的經過；二、希望寧漢合作；三、並力北伐，徹底清黨。
蔣介石到上海後，寓上海市長，他的拜把兄弟黃郛家中，對軍事、政治作了一些部署，隨即遣返溪口老家，稍停即東渡日本去了。
胡漢民、吳稚暉對蔣介石此次下野，認為馮玉祥應負主要責任，所以他們到上海後，曾給馮玉祥一電，聲明取消安慶之行，各為故裏之遊。並對馮說：“一柱擎天，唯有公焉！”語意冷嘲熱諷，其對馮不滿殊甚。
蔣介石卻不是這樣，他指責李宗仁、白崇禧對他施加壓力，所以不得不下野，《蔣傳》對此作了詳細的描述：
其時，廣西將領鹹認與漢口言和，始能解南京被包圍之險。由於蔣總統被視為和議之障礙，他的舊日同誌遂不免對他施壓力。在此環境之中，蔣總統雅不願保持其權位。於是在八月十二日，他辭去總司令之職，帶同衛士二百人，前往上海。（董顯光：《蔣總統傳》，第一卷，第一O七頁。）
三、掌滬軍政大權，指揮龍潭戰役
蔣介石下野後，南京城內隻剩下國民黨元老蔡元培、李烈鈞兩人，暫時維持中央黨部和國民政府現狀。八月十五日，開了一次軍委、黨務聯席會議，程潛也應邀入京參加，由李烈鈞主持，程潛、李宗仁先後發言，決定促成寧、漢、滬（西山會議派）三方合作，統一黨權，並請武漢各同誌來京。
八月十七日，以李宗仁、何應欽、白崇禧主持的國民政府軍事委員會發出通電，略謂在蔣總司令未回任前，所有軍政、軍令統由本會負責處理，各部隊仍隸本會統一指揮。同日何、李、白電武漢汪精衛、譚延闓，請製止唐生智軍繼續東下。十九日譚電複，促一意渡江作戰，東下各軍並無他圖。但李宗仁仍不放心，耿耿於懷。
八月十九日國民政府軍事委員會任命白崇禧為淞滬衛戍司令，白即日在上海就職，並以他的參謀長張定璠接替黃郛為上海市長。白崇禧為了尋求上海財界人士的支持，於十八日下午在上海交涉署邀請各界知名人士開茶話會，到周鳳歧、郭泰祺（1889—1952，早年赴美國留學，獲博士學位。1919年以中國代表團專門委員身份出席巴黎和會。曾三次代表中國出席國聯會議。1940年後任國民黨政府外交部部長、國防最高會議外交委員會主席。抗日戰爭勝利後，任聯合國安理會首任中國首席代表。後病死於美國。）、虞洽卿（1867—1945，先後創辦寧紹、鴻安及三北輪船公司。辛亥革命曾捐助軍餉。曆任上海總商會會長，寧波旅滬同鄉會會長，淞滬市政會辦，公共租界工部局華董等職。1927年支持蔣介石發動“四一二”反革命政變。後一貫支持蔣的政策。抗日戰爭爆發後，拒絕與日方合作，於1941年赴渝。卒於重慶。）等百餘人。白崇禧在會上報告了當前軍事政治形勢。謂目前局麵穩定，請上海商界幫助解決財政困難。虞洽卿說：隻要政府采取有利於商界發展的措施，則財政問題不難解決。最後要求寧漢妥協，共同對敵。
八月二十二日，李宗仁到九江，與武漢方麵的汪精衛、譚延闓、孫科、陳公博、唐生智等舉行廬山會議，李請汪等到南京共商團結辦法，汪推譚延闓、孫科先行。二十四日，李宗仁偕譚延闓和孫科乘“決川”艦返南京，到大勝關江麵，適孫傳芳敵軍從江北渡江南犯，有的敵兵攀登“決川”艦。譚延闓素稱“神槍手”，把左右警衛的駁殼槍搶過來，即向敵軍掃射，宛如秋風掃落葉那樣，刹那間把附艦敵人肅清了。恰巧陳調元的部隊乘專輪上駛，協力把渡江的孫軍擊退。當晚李宗仁到南京，把譚延闓、孫科安頓好以後，立刻去鬥雞閘找何應欽，將廬山會議情況告訴後者，並且說：“孫傳芳在左翼方麵可能係佯攻，我們應當注意右翼方麵的防禦，因為當時第一軍都駐在寧滬線上，而第七軍則在南京近郊。”
果然不出李宗仁所料，八月二十五日拂曉，長江晨霧彌漫，孫傳芳的主力大軍就在大河口、劃子口渡江，占領烏龍山炮台，青龍山、黃龍山及南京城郊堯化門外的龍潭車站，這樣就切斷滬寧路的交通，使第一軍不能首尾相顧。那時何應欽還在南京城內，勢不能指揮龍潭以東的所屬部隊，第一、第七兩軍倉皇應戰，處境危殆。
真是巧得很，蔣介石下野後，南京軍費支絀，白崇禧在上海向商界籌得了六十萬元，於八月二十五日乘滬寧路火車去南京，到無錫時接到報告，說是孫傳芳軍乘夜破壞鐵路，在前麵開行的快車傾覆了。白崇禧為了確保安全，開一鐵甲車做前導。到奔牛鎮，這鐵甲車也翻了。白知事態嚴重，回無錫車站打電話給第一軍第十四師師長衛立煌（1897—1960，抗日愛國將領，國民黨陸軍二級上將。他被日軍華北最高司令香月清司視為“支那虎將 ”。抗戰勝利後被美國《名人詞典》以及美國發行量最大的《時代周刊》稱為“常勝將軍”。解放戰爭時，因沒有執行蔣介石的“反攻”命令而被蔣介石撤職，軟禁在南京。1949年獲釋，隨即出走香港。後拒絕去台灣。1955年3月衛立煌夫婦回北京，並發表“告台灣袍澤朋友書”。是第一個從海外歸來的國民黨高級將領。）。衛立煌說：“孫傳芳已占領了龍潭，敵軍現正由金山焦山乘船渡江，刻正堵截中。”因此，衛立煌要求白崇禧迅速調兵援助。
白崇禧於是在無錫設立指揮所，把可能集中的通訊器材湊合起來建成一個交通網，就近指揮第一軍的第二師和第三師以及第十四軍；沿滬寧路從東麵進攻。同時，白崇禧打電話給海軍總司令楊樹莊，要他派艦隊守渡江口。楊氏派“通濟”艦到鎮江候命，白崇禧當令政治部主任潘宜之帶一排憲兵上該艦開到龍潭附近江麵作戰。
“通濟”艦開炮轟擊渡江孫軍，其他各艦也協同炮擊，時英艦沿江上駛，它本來是要協助孫傳芳軍的，不意它忽被遠來的炮彈擊中，它以為是革命軍已經占領龍潭車站上麵的頂峰了。於是開炮猛轟黃龍山，欲助孫軍一臂之力。時適第七軍仰攻黃龍山，久未得手，乘勢一擁而上，遂奪回黃龍山炮台。這真是得自天助，非人力所能及也。
白崇禧在鎮江指揮，見第一軍第二師師長劉峙因碰車受傷，他還是同何競武（1895—1961，陸海空軍總司令副官長，中將。1948年去台灣。何競武和著名詩人徐誌摩是同在浙江海寧硤石長大的同窗好友，過從甚密。何競武的女兒何靈琰是徐誌摩和陸小曼的幹女兒。）到前方指揮作戰。之後，白崇禧去夏蜀山，壓陣督戰。見第五十八獨立團從前線退下來，白崇禧找到了該團團長桂永清（1900—1954，黃埔軍校一期畢業，參加第一、二次東征、北伐戰爭、抗日戰爭和解放戰爭，曆任師長、軍長、中華民國海軍總司令，國民政府國防部參謀總長，國民革命軍海軍一級上將。1949年赴台灣，1952年4月轉任“總統府”參軍長。），告以夏蜀山地勢重要，要他回去堅守陣地，桂氏當遵命照辦。以後桂永清當參謀總長，還對白崇禧談起此事，認為這是值得回憶的一樁事。
龍潭戰役進展到八月三十一日，經過六日的激烈戰鬥，孫傳芳軍因受海軍的攔截炮擊，而黃龍山、烏龍山炮台亦先後被我第一、第七兩軍克複，後路斷絕，卒歸失敗。是日下午，白崇禧率劉峙、衛立煌兩師占領龍潭士敏土廠，白氏就在那裏遇到何應欽，在危難之後見到戰友，感到特別親切。
九月一日，白崇禧的淞滬衛戍總司令部發表最後捷報稱，孫軍以全力於數日內渡過六師、二混成旅，國民革命軍第一、第七兩軍，聯合海軍作戰，繳得槍支四萬餘杆，斃敵二萬餘人，俘獲者三萬餘人，餘多溺斃或逃竄，孫傳芳之武力幾全部覆滅。
龍潭之役，其意義極為重大：第一，表明在蔣介石下野之後，軍中失了一個統帥，何應欽、李宗仁、白崇禧三人平起平坐，誰也不能指揮誰，但他們以大局為重，開誠相見，團結戰鬥，這是曆史上所罕見的一件事。第二，第一軍是蔣介石自己訓練出來的嫡係子弟兵，在蔣氏下野後，它的戰鬥力並未減退，且受白崇禧指揮，與第七軍並肩戰鬥，極為難得。
龍潭戰役後，譚延闓仆仆風塵於南京上海之間，為促進寧漢合作而致力，他設宴招待龍潭戰役有功將領，特書一聯贈白崇禧雲：
指揮能事回天地
學語小兒知姓名
四、汪、蔣聯手，反對李、白
龍潭戰役後，寧漢合作問題又提到議事日程上來。
在李宗仁、白崇禧努力撮合下，一九二七年九月十一日上午九時在上海戈登路伍朝樞公館舉行了寧、漢、滬（西山會議派）三方代表談話會，預定會期三天，主旨在商討全黨團結問題。當日白崇禧從南京乘艦去蕪湖，專程邀請唐生智去上海參加上麵所說的談話會，唐氏拒不應邀，並且強占了南京方麵所擁有的“決川”、“浚蜀”兩艦，即日遄返安慶，使白崇禧十分難堪。以後白讚成西征討唐，實以此為契機。
九月十一日，第一次談話會商量統一黨務辦法時，孫科提出了最好成立一個特別委員會，李宗仁說：“特別委員會的產生，恐怕黨內今後以此為借口，加以攻擊。”鄒魯於是問汪精衛：“如果有人反對特委會，我們如何對付？”汪氏說：“現在特別環境之下，可少顧法律，促成事實。特別委員會之產生，亦有前例可據，廖仲愷遇難時，亦組特委會以行使中央職權，有三月之久。現既在特殊環境之下，特委會之產生，當然無可疑義。”（鄒魯：《澄廬文集》，第三集。）可是後來由於汪精衛在南京新組成的領導班子他拿不到實權，就與蔣介石攜手合作，團結一致來反對特別委員會了。
政治隻講利害，不談什麼道義，在上海談話會中，南京方麵代表人物同西山會議派站在一條戰線上指責汪精衛在武漢容忍共產黨人的過激行動，提出了嚴厲的批評，因此汪精衛不得不在十二日的談話會上公開承認“對共產黨人防製過遲”，自劾下野。陳公博看到汪派在三方會談中不會得到什麼好處，遂對特別委員會的成立持反對態度。他說：“不召集四中全會就變更黨的組織，不合黨章規定。”顧孟餘也附和他的主張。
九月十三日上海談話會結束，寧漢滬三方協商的結果，決定成立“中央特別委員會”。並依據上海協議，九月十五日在南京召集中央執監委員聯席會議，宣告中央特別委員會的成立。聯席會議對汪精衛自請處分，決定毋庸置議，並勸請蔣介石速出視事，共濟時艱。
九月十七日，中央特別委員會二次會議，推汪精衛、胡漢民、李烈鈞、蔡元培、譚延闓五人為國民政府常務委員；以白崇禧、何應欽、朱培德、程潛、李宗仁、楊樹莊等十四人為主席團。此外，並以葉楚傖（1887—1946，著名的南社詩人，國民黨官僚，政治活動家。1929年後，曾被選為國民黨第三、四、五屆中央執行委員、常務委員和政治委員會委員。1935年任國民政府立法院副院長。1946年在上海病逝。）為中央特別委員會秘書長，謝持（1876—1939，國民黨官僚。擁護孫中山，“西山會議派”領頭人，持反共立場。曾反對蔣介石，後又擁蔣，他製造了分裂，又為全國統一抗戰奔走。1939年4月在成都病逝。）為組織部長。汪精衛預測他在南京新產生的中央黨政機構不能取得領導地位，並未來南京參加聯席會議，而去溪口與蔣密談。九月十六日，他從上海電致中央特別委員會：“破碎之黨，歸於完整，兆銘可以引退矣。”隨即去武漢有所策動。
蔣介石與汪精衛在溪口談些什麼呢？後來據陳公博在《苦笑集》中揭露，原來蔣介石以為南京政府在廣西實力派控製下，他自然不能返京複職，隻好退而求其次，回到廣東根據地去。但廣東不是李濟深在那裏嗎，因此蔣介石要通過汪精衛策動張發奎發動“驅李之役”趕走李濟深，以便蔣卷土重來。蔣介石對汪精衛說：“我如果回到廣東，可以再辦黃埔軍校，從頭做起。”汪、蔣自此開始合作，陳公博銜命赴粵，與張發奎部署一切。