反對西山會議派鬥爭的高峰是1926年1月在廣州召開的國民黨第二次全國代表大會。會上，毛澤東和共產黨人吳玉章、惲代英等一起，對西山會議派進行了堅決的鬥爭。
1月18日，會議在討論《中央黨務總報告決議案》時，毛澤東發言說：“第6款‘凡有發表政治的言論’句應改為‘關於發表變更黨決議及政治方針言論’；在‘創立研究的會社之上’，應改加‘凡有’二字；‘必須事前得黨部之許可’，改為‘必須得該地最高黨部之許可’；把‘或事後得黨部之追認’句刪去。”毛澤東的意見是針對右派任意篡改三大政策、擅自成立非法組織而提出來的。他的意見引起了熱烈的討論，有的表示同意，有的提出補充意見。高語罕發言說，“言論的範圍極寬，一千幾百字也是言論。本席以為應聲明限於著作品。如戴季陶同誌前幾月所出小冊子之類，須得本黨許可。如屬細碎之言論，均須黨部之許可，恐不勝其煩，事實亦難辦到。”高語罕也是和國民黨右派堅決鬥爭的共產黨人，但在這個問題上，他的意見明顯欠妥。毛澤東當即發言表示不同意，他說：“高語罕所說，本席也以為未盡完妥：如林森此次在京之演說辭，字數雖少，關係卻很大，所以專限小冊子也不行的。”毛澤東的意見是正確的。西山會議派林森的演說辭，字數雖少，但內容反動，當然應屬禁止之列。
在會上，黃埔軍校國民黨黨部的代表、孫文主義學會分子袁同疇附和西山會議派的反共叫囂，提出，國民黨內之所以發生兩派糾紛，主要原因是“有些人總嫌共產派同誌進行黨務之不肯公開，而且沒有聲明自己是共產黨員，因此有此一疑，兩方便有許多糾紛生出來了。”袁同疇認為，要根本解決兩派糾紛，加入國民黨的共產黨員必須做到下列三點：（一）共產黨員加入中國國民黨時，聲明自己是共產黨；（二）共產黨員要將在國民黨內的活動公開；（三）中國國民黨員加入共產黨時，要得該地黨部之許可。毛澤東立即駁斥了袁同疇的意見，嚴正指出：“這三種條件，我們也都是不怕的，先就第一點說，如果怕聲明自己是共產主義者，也決不是真正的共產黨員了。但是共產黨在中國還算是一個秘密組織，與俄國共產黨執政可以公開活動情形不同。在中國共產黨一日未能取得法律地位，是不能不秘密的，如在上海等地，要聲明，便馬上要被槍斃了。就第（二）點說，和第（一）點相同，在共產黨的友黨中國國民黨勢力之下公開是可以的。但在他處也要公開，就馬上要給人解散消滅。這便足以使國民革命中一部分力量受到一個重大打擊，於國民革命前途也是不利的。就第（三）點說，無論何黨，黨員出黨入黨應有絕對自由，實不必有任何的限製。”毛澤東的發言，不僅有力地駁斥了袁同疇的反動提案，而且表現出共產黨人的光明磊落的態度。在毛澤東和其他共產黨人的駁斥下，袁同疇不得不表示：“本席可以收回前時的提議。”
在這次大會上，許多共產黨人表現也十分出色。中共黨團幹事，小於毛澤東兩歲的青年理論家惲代英，是被西山會議派列為開除黨籍的中共成員之一。他在會上發表了慷慨激昂的演講，表達了誓為中國民主革命奮鬥終身，誓同一切反革命派鬥爭到底的堅強決心。他說：“如果國民黨一旦背叛革命，如果本黨丟了三民主義，我便要反叛起來，這是沒有什麼客氣的。我的入黨是因為想要做官嗎？想要認識某要人嗎？我完全是因為國民黨能反對帝國主義、軍閥，為被壓迫農工利益而奮鬥所以來的，如果國民黨會有一天和帝國主義妥協，和軍閥勾結，被大多數的農工反對，這是自由的國民黨，已經不是總理的國民黨了，到那時，我一定起來反對，和現在反對上海的偽中央執行委員會一樣。”“總而言之，各位同誌不要管我是不是共產黨，隻要問我是不是實行三民主義，如果有違背三民主義而去做反革命的事情，便馬上可以拉去槍斃，如果沒有，便不能開除。我的理由在這裏說得很明白了，如果你說我是共產派，我這個共產派便是這樣主張的。”惲代英的發言真是大義凜然，擲地作金石聲，從而贏得了全場一片熱烈的掌聲。
經過共產黨人和國民黨左派的鬥爭，大會通過了一係列懲處西山會議派的決議案，決定永遠開除鄒魯、謝持的黨籍，給居正、林森、張繼、邵元衝等12人以書麵警告處分，改組上海《民國日報》，撤銷葉楚傖的職務，責令戴季陶反省，從而給西山會議派以沉重打擊。隻是由於陳獨秀、張國燾在選舉問題上堅持對右派妥協退讓，結果使右派勢力在國民黨中央仍然占了優勢，尤其是蔣介石在會上偽裝進步，大大地抬高了他在國民黨中央的地位，埋下了新右派篡奪領導權的禍根。