蔣閻論爭，使閻錫山與改組派親近起來。閻錫山否認蔣介石中央的合法性，就必須樹立一個“合法”中央來與蔣介石的中央對抗。為此，閻需要汪精衛的改組派和西山會議派的幫助。這時，改組派在蔣的打擊下，在南方已無法立足，得知蔣、閻關係惡化，即派人北上天津，表示願意擁護閻錫山為盟主，以改組派的二屆中央相咱應，組成反蔣聯合陣線。
他回到太原後，親自掛帥，便四處活動，聚集力量，使太原頓時成了一個政治活動的中心。閻錫山可謂足智多謀，他不僅感化了因受欺騙而仇視自己的馮玉祥，使他調轉槍口倒蔣，也把華南的李宗仁、四川的劉文輝都攏絡了過來。
一時之間參加倒蔣的派係及各個大小軍閥彙集到太原的代表共５０餘人。其中有國民黨改組派汪精衛、陳公博、廊孟餘、白雲梯、王懋功；國民黨西山會議派的鄒魯、謝持、覃振、李錫九等；馮玉祥方麵的代表李書城、李興中、劉治州、鄧哲熙、陳繼淹等；李宗仁、白崇禧的代表潘宜之；劉文輝的代表胡畏三；韓複榘的代表劉熙眾；石友三的代表畢廣垣、聶相溪；樊鍾秀的代表鄧洪業；孫殿英的代表胡捷三、高夢琴；何鍵的代表黃一歐；劉鎮華的代表楚經緯；萬選才的代表萬殿尊；張學良的代表葛光庭；唐生智的代表袁華選；任應歧的代表劉覺民；馬鴻逵的代表康玉書；嶽相如的代表馬驥才；劉湘的代表鴻吉等，還有宋哲元、陳調元、金樹仁、劉茂恩、劉桂堂、劉春榮等，也派代表前來參加。
這麼多的地方實力派和派係，彙集成一股倒蔣的洪流，洶湧磅礴，大有把蔣介石席卷而去之勢。
但反蔣派的首領都是想當霸主的人物。因此，關於組織聯合機構討論進行時並不順利，一開始便發生尖銳的分歧。汪的改組派主張，須先建立黨的機構，再成立政府機構。他們提議由國民黨第二屆中央委員會產生一個擴大的臨時機構，網羅各方中心人物，再由黨的臨時機構產生臨時政府，準備重開國民黨三大。然後由國民黨三大發起召開國民會議，頒布約法，按孫中山的遺教實行訓政。
為獲得閻錫山的支持，陳公博、王法勤提出，由閻錫山主管軍政大計，他們在一旁協助。汪精衛更進一步提出，此次反蔣是出於軍人的自發行動，而不是由黨部發起的，所以一切反蔣大計，都歸閻主持，他隻是在黨務方麵多發表一些意見，表示讚助，對於軍事、政治問題都不過問。
馮玉祥回到潼關以後，立即召開軍事會議，做反蔣的軍事部署。３月１１日，西北將領由鹿鍾麟領銜，發表擁護閻錫山反蔣通電。為此，蔣記中央以吳稚暉的名義於３月１３日發給西安馮玉祥一封電報，對馮進行諷刺、笑罵。電文稱馮甘心充當閻錫山的傀儡，成全了閻錫山這個“十九年的不倒翁”。挖苦馮雖然是“須臾逃死”，“以返秦中”，但也是“虛懸愛民之誌，徒老重白之頭，幹戈中心不能有所解決也”。１４日，馮玉祥複電反唇相譏。他用諸葛亮罵王朗的筆調說：
“頃奉先生之電，回環讀之，不覺啞然失笑。假如玉祥不自度量，複先生一電，文曰：‘革命六十年的老少年吳稚暉先生，不言黨了，又不言革命了，亦不言真理是非了。蒼須老賊，皓首匹夫，變節為一人之走狗，立誌不問民間之痛苦，如此行為，死後何麵目見先總理於地下乎？’等語，豈不太不好看乎？請先生諒之。”
馮的這封電報，表明他誓與蔣記中央周旋到底。
馮玉祥聯閻反蔣的旗幟樹起來後，立即吸引了叛馮倒蔣的將領。石友三、萬選才、孫殿英、劉壽榮等紛紛發表通電，聲明服從馮的指揮。
處在困境中的桂係，極力推崇閻、馮領導反蔣。李宗仁、白崇禧、黃紹竑、張發奎，胡宗鐸五人聯名發表通電，宣稱：“黨國破碎，民苦流離，推原禍首，皆介公一念之私，有以致之。故蔣氏一日不去，則整個的黨、統一的國，一日不成……百川先生，公忠謀國，普海風從，定戰止爭，非伊人任。宗仁等再思籌思，惟有請百公為全國陸海空軍總司令，總攬軍權。煥章、漢卿兩先生，黨國幹將，勳猶夙著，敬推為副總司令，夾輔百公，藉以促成整個的黨、統一的國早日實現。”
這時，被推舉為反蔣首領的閻錫山，舉起帥旗，主持召開了所有軍閥代表參加的反蔣會議。經過各方代表會商，３月１５日，原第二、三、四集團軍的將領５７人，由鹿鍾麟領銜發表通電，推戴閻錫山為“中華民國陸海空軍總司令”，馮玉祥、李宗仁、張學良為副總司令，劉驥為總參謀。隨後給各路反蔣軍頒發名號，任命將領，分配戰區與作戰任務。
閻、馮兩支部隊合起來號稱６０萬大軍，其他雜牌部隊號稱２０萬大軍，總兵力不下７０萬。這時，被推上台的海陸空三軍總司令閻錫山，威風凜凜地於１９３０年４月１日在太原宣誓就任總司令職，馮玉祥、李宗仁分別就任副總司令職，張學良未就任此職。同時，還決定在北平召開國民黨中央黨部擴大會的預備會議，通過《中國國民黨黨部擴大會議組織大綱草案》和《國民政府組織法大綱》，以期奪得國民黨黨權、軍權，另立王朝。