李訓、鄭注看出，仇士良取代王守澄，實際上仍是宦官控製朝權。所以，他們決心鏟除宦黨。他們商議，若要達此目的，必須內外呼應，由鄭注坐鎮鳳翔，選壯士數百為親兵，皆持白掊，懷其斧。假借為王守澄送葬為名，鄭注率親兵入朝。王守澄葬於滬。奏請文宗令內臣中尉以下盡集滬水送葬，到時“親兵斧之，使無遺類”。
然而，李訓、鄭注二人並非完全同心協力。當鄭注前去鳳翔後，李訓擔心一旦事成，鄭注將奪去首功，便與宰相舒元輿合謀改變了原計劃。
太和九年（835年）十一月，一天，文宗到紫宸殿視朝。李訓的親信、左金吾大將軍韓約不按慣例奏報：“左右廂內外平安。”而是上奏：“左金吾聽事後石榴夜有甘露，”關“蹈舞再拜”。李訓、舒之輿也率百官稱賀，並勸文宗親往觀視。文宗應允，轉而升坐含元殿，又先命李訓前去觀看，李訓良久方歸，上奏：“臣與眾人驗之，殆非真甘露，末可遽宣布，恐天下稱賀。”文宗甚覺怪異，令左、右中尉仇士良、魚弘誌率眾宦官前去驗看。李訓見時機已到，急召寧節度使郭行餘、河東節度使王：“來受敕旨。”此二人均為李訓親信。然而，王卻害怕得腿都發抖而不敢前來。此時，二人的部曲數百，皆手持兵器立於丹風門外，李訓令人召之。可惜，惟有王的部曲應召，而郭行餘的部曲竟不入。
仇士良等來到左仗金吾廳，見韓約變色流汗，神色慌亂，便詫異地問：“將軍何為如此？”忽然，風吹帷起，仇士良猛見裏麵藏有伏兵，又隱約傳出兵器之聲，心知不妙，急忙奪門而逃，奏告文宗說李訓反了，並指揮宦官們挾著文宗出了含元殿。李訓見事已敗露，忙命金吾兵急追。李訓竟獨身攀住了文宗乘輿，請求文宗留步。文宗已被宦官劫持，為保全自家性命竟然斥責李訓。宦官郝誌榮乘機將李訓擊倒。仇士良等挾持文宗到了宣政門。李訓見大勢已去，便換上隨從的衣服躍馬而走。
甘露之變就這樣失敗了。失敗的原因，關鍵在於李訓、鄭注勾心鬥角，急立頭功，且又未能控製禁軍，亦無周密計劃，再加上文宗臨陣動搖，致使仇士良隨機應變成功，轉危為安，變被動為主動。
仇士良知道文宗參預了謀殺宦官，十分怨憤，常對文宗出言不遜，文宗也隻能聽之任之，懼不複言。仇士良命左、右神策副使各率禁兵五百，以搜捕賊為名，大肆殺戮。金吾吏卒六百餘人皆被殺死，諸司吏卒死者千餘人，“橫屍流血，狼藉塗地，諸司印及圖藉、帷幕、器皿俱盡”。宰相舒無輿易服單騎而逃，被禁兵追擒。就連年逾七十的宰相王涯，仇士良也不放過，硬是屈打成招，逼其手書，自誣謀反。將王涯親屬奴婢，一概收監。禁軍借機勒索掠奪，坊市惡少趁亂也殺人剽掠，一時間，血雨腥風，塵埃蔽天。
朝日，百官入朝，“時無宰相禦史知班，百官無複班列”。可見朝中官員被殺之慘重。文宗升坐紫宸殿，問：“宰相何為不來？”仇士良說：“王涯謀反係獄。”並呈上了王涯的自供書，文宗問左仆射令狐楚，右仆射鄭覃：“是王涯的手書嗎？”答：“是的。”事後，令狐楚對文宗表示，王涯謀反一事，未必可信。仇士良聞知，甚為不滿，致使令狐楚未能入相。可以看出，仇士良已經控製了朝權。
然而，仇士良的大反撲並未停止。李訓逃出京城後，直奔終南山，投奔老友、寺僧宗密。宗密本欲將其剃發為僧，使其免遭毒手，但眾僧徒惟恐窩藏罪犯禍及山門，隻好讓其另尋生路。李訓已無安身之所，隻好投奔鳳翔的鄭注。途中被擒，取其首級送往京師。幾天後，李訓的首級在前，王涯、賈餘、王、郭行餘等人同被押赴刑場。仇士良命“百官臨觀，斬腰於獨柳之下，梟首於興安門外”。其親屬無論親疏一概問斬，孩嬰亦不例外，“妻女不死者沒為官婢。”仇士良又密令鳳翔留軍張仲清斬除了鄭注及其親屬。後又斬殺了韓約。
至此，仇士良將異己幾乎一網打盡，“中書惟有空垣破屋，百物皆闕。”“仇士良等各進階遷官有差。自是天下皆決於北司，宰相行文書而已。”仇士良利用甘露之變，大肆殺戮，盡斬異己，從而進一步控製了朝政。