統一廣西的戰爭中，白崇禧顯示了自己的軍事才能，獲得了“小諸葛”的雅號。沈鴻英在屢遭白崇禧追殲時，總是驚歎：“呀，小諸葛真厲害！”甚至一有追兵就恐懼地講：“小諸葛又來了。”從那時起，“小諸葛”美名便不脛而走，越傳越廣了。
１９２６年６月，國民政府發表了北伐宣言，任命蔣介石為北伐軍總司令。參加北伐的隊伍由國民革命軍３個軍組成，迎戰的是吳佩孚、孫傳芳、張作霖３個軍閥集團。因此統帥這樣一支軍隊，需要配備強有力的參謀部，物色一名理想的參謀長。國民革命軍總司令蔣介石自稱慧眼識人，啟用了白崇禧。一天，蔣介石來到白崇禧下榻的廣州東亞酒店，鄭重提出要白崇禧組織北伐軍參謀部。白崇禧感到有些唐突，且事關重大，以不能勝任相辭。蔣介石堅持己見，白崇禧隻好推說請蔣征求李宗仁的意見。李宗仁在統一廣西的戰爭中，對白崇禧的指揮才能和個人品質極為滿意，視為難得的合作者，自然不願割愛相讓。蔣介石見交涉不成，就說：“那就算借用好了，到打下武漢再歸還。”這一招李宗仁沒想到，為顧全大局計，隻得同意了。但白崇禧有自己的想法，不願永遠離開桂軍，做一個沒有根的參謀總長。為了給自己留條後路，他向蔣提出，自己資曆尚淺，願擔任副參謀長，建議由李濟深任參謀長。蔣介石同意了。
蔣介石之所以選中白崇禧為參謀長，這當中除了因為白確實有近代軍事指揮才能外，還另有一番苦心。廣西的統一，不但說明桂軍的強悍，更證明李宗仁、黃紹竑、白崇禧的團結一致，蔣想日後獨攬全國軍權，怕桂軍不服，三人聯為一體，於己不利，而對白崇禧尤為顧忌。因此把白調開，企圖使桂係成不了氣候。不過日後事態的發展，並沒有使蔣如願以償。
白崇禧上任新職後的第一件事，就是以國民政府代表身份與陳銘樞同往長沙，促動唐生智加入到北伐隊伍中來。國民革命軍出征北伐，湖南的向背是至關重要的。當時唐生智駐軍湘南，是趙恒惕手下實力最強者，早欲取趙而代之。白崇禧利用這一點，與陳銘樞以老同學的關係，上門遊說。
１９２６年７月９日，國民革命軍在廣州東場誓師出征。此刻，白崇禧麵對的是較前遠為廣闊的戰場，他將導演的將是一場空前激烈的廝殺。
蔣介石消滅桂係的計劃是首先瓦解河北白崇禧部，然後拆散粵桂聯盟；得手之後，再發兵征討桂係主力，以求全勝。
蔣消滅白崇禧部的辦法，是利用唐生智與桂係的矛盾，起用唐生智，驅逐白崇禧。白崇禧帶到河北的李品仙、廖磊兩部原是唐生智的主力軍，１９２７年，桂係打敗唐生智，唐的主力軍就被桂係改編。蔣在湘案發生後，一麵下令停發白崇禧部的軍費，一麵派人把唐生智找來南京，給唐３０萬大洋做經費，令其北上奪白崇禧的軍權。唐生智當即派親信到唐山密晤李品仙，彼此約好，脫離桂係。
白崇禧想常駐河北，又想向西北發展，引起部下不滿。唐的舊部都想早日回到湖南家鄉，又都覺得當桂係的軍官不光彩。所以，一經唐生智的號召，就立即投入舊長官的懷抱。況且脫離桂係，既有錢拿，又有官做，皆大歡喜何樂而不為嘛！因而，彼此信使往還，絡繹不斷，其中隻瞞著白崇禧一人。為了達到盡早成事之目的，李品仙又派親信五十二師參謀長周武彝以赴南京會議為由，前往上海、南京活動。周到了南京，便與蔣的秘書長邵力子取得聯係，請邵轉告蔣介石，他代表唐生智的舊部，往上海迎唐。蔣介石得到報告，立時接見了周，周向蔣表示，唐的舊部竭誠擁護中央，都要求唐生智重新指揮部隊。蔣介石大喜，要周馬上去上海迎唐動身北上，周趕到上海麵見唐生智，唐於是攜帶蔣介石的３０萬元巨款，與周一起，乘英商太古公司“女皇”號輪船趕赴天津。
此時，蔣桂戰爭已箭在弦上。白崇禧意欲將兵帶回兩湖，配合李宗仁部進攻蔣介石，然部隊已不聽白的指揮，甚至發展到公開鬧事驅白的地步。五十三師所屬的旅長淩兆堯，集合全旅官兵在紀念周上宣布反桂擁唐，並到處張貼“打倒桂係！”“打倒白崇禧！”“歡迎唐總司令東山再起！”等標語。標語貼到北平、天津的火車車廂上。白崇禧在軍中不能立足，化裝由塘沽搭英輪逃走。說來也巧，這艘英輪剛剛把唐生智由上海載來，又把白崇禧載走了。
１９２９年３月２０日唐生智在塘沽登岸，受到舊部的歡迎。第二天，唐便通電宣布討伐白崇禧。蔣介石立即任命唐生智為第五路軍總指揮。唐生智在北平順承王府設立總指揮部，布置討白事宜。蔣介石扶唐倒白計劃完全實現。這一招等於砍去桂係一隻手臂。