第二次東征凱旋廣州，受到歡迎的蔣介石卻憂心忡忡，他感覺出，廣州的政治氣氛頗是詭異。
此時，黃埔軍校和第一軍內，共產黨的勢力已相當強大：第一軍3個師的黨代表，共產黨員占三分之二；9個團的黨代表中，共產黨員占7人，至於黃埔軍校和第一軍中共產黨員到底有多少，蔣介石也不清楚，他要求第一軍政治部主任周恩來交出共產黨員名單，遭到拒絕。更令他痛心疾首的是，校內、軍中，左、右兩派尖銳對立，矛盾近乎不可調和，蔣介石苦口婆心、聲淚俱下化解，卻收效甚微。
國民黨中央政治委員會主席、國民政府主席、國民政府軍事委員會主席汪精衛，也變得不可捉摸起來。蔣介石回到廣州，即和汪精衛商議北伐之事，因早在東征前，蘇俄總軍事顧問加倫即提出東征後出師北伐的建議，所以，汪精衛對蔣介石的提議明確表示讚同並開始籌備。但是，汪精衛向蘇俄顧問征求意見時，接替加倫擔任國民政府軍事總顧問的季山嘉反對北伐，他認為，此時北伐，會導致蔣介石勢力的膨脹，有失去控製的危險。汪精衛轉而支持季山嘉的主張。國民黨“二大”沒有像蔣介石所期盼的那樣，作出實行北伐的決定。
這讓蔣介石感到錯愕和憤懣！
據蘇俄顧問團向莫斯科的報告稱：“我們的顧問事實上是所有這些部門的頭頭，隻不過在職務上被稱為……顧問。”報告又說，“現存的國民黨是我們建立起來的。它的計劃、章程、工作都是在我們的政治指導下按照俄國共產黨的標準製定的，……直到最近，黨和政府一直得到我們的政治指導者的周密指導，到目前為止，還不曾有過這樣的情況：當我們提出一項建議時，不為政府所接受和實行。”
蔣介石不可能看到這份報告，但是，他感覺到了，汪精衛已受蘇俄的控製，國民黨的主導權已經落入俄國人的手裏。不僅如此，蔣介石還懷疑，蘇俄顧問、中國共產黨和汪精衛結合到一起，在限製、打擊乃至謀害他。
蔣介石的懷疑主要是從這樣幾件事開始的：
和蔣介石共事尚算融洽的軍事總顧問加倫病休，政治總顧問鮑羅廷突然奉調北上述職，由季山嘉接替政治總顧問職務，而季山嘉正是使蔣介石的北伐建議胎死腹中的主導者。
季山嘉在宴會上公開說，統一廣東的功臣，第一是汪精衛，還有蔣介石和李濟深。
第一軍第二師師長王懋功與汪精衛關係接近，在軍事委員會討論經費時，消減黃埔軍校3萬元，為王懋功師增加軍費3萬元。
廣西新桂係李宗仁等願意服從國民政府，汪精衛與之接洽，計劃將廣西新桂係的軍隊變為第八、九兩個軍。蔣介石認為，此時國民政府軍事委員會所轄共6個軍，按序，廣西軍隊應該是第七、八軍，特意空下第七師，居心叵測，乃是在為王懋功預留軍長位置，以便分化瓦解第一軍。
因此，凱旋後的蔣介石“苦痛極”，暗暗發出“如不猛策，失敗即在目前”的慨歎。
蔣介石“猛策”的第一步，就是以突然手段，解除了其部屬王懋功第二師師長的職務，並遞送上海閑住。蔣介石本人則堅辭不就國民革命軍總監之職，還宣稱要辭去一切軍職，專心黃埔軍校的校務。
此舉使得蔣介石和汪精衛的矛盾近乎公開化了，廣州城的氣氛也更加緊張，攻擊蔣介石為新軍閥的傳單出現在街頭。蔣介石慨歎“處境若此，萬萬想不到也”。
蔣介石多次和季山嘉、汪精衛談話，主張盡快實行北伐，均不得要領，而“先打倒廣東的段祺瑞，再打倒北方的段祺瑞”的口號，開始在廣州流傳。蔣介石感歎“單槍匹馬，前虎後狼，孤孽顛危”，祈禱孫中山和諸先烈在天之靈“憐而嗬護之，不使我陷於絕境”。他常常陷入沉思中，考慮是隱退，還是堅持下去，“死中求生”。
此時，被蔣介石稱為“搗亂分子”的西山會議派與在廣州的國民黨右派密謀挑撥蔣介石和蘇俄顧問及汪精衛的關係。國民政府委員、外交部長伍朝樞在一次宴會上，故意造謠說：“昨夜和蘇聯領事食飯，他告訴我蔣先生將於最近期內到莫斯科，你們知道蔣先生打算使命時候啟程呢？”得到這個消息，蔣介石驚詫不已，疑心陡增。