李訓、鄭注在王守澄的支持下，利用牛李黨爭的矛盾，終於把李德裕、李宗閔趕了下去，方才覺得出了口惡氣。但是他們仍然沒有罷手，他們對那些公然在朝堂不願正眼看自己的朝官，以及那些揚言把自己搞得臭如狗屎的言官，更加痛恨。他們不僅阻止過自己向上進軍的路途，而且無數次地惡言貶損自己的人格，對這些人絕對不能客氣。李訓把他們統統扣上牛李黨徒的帽子，貶逐到遙遠的地方。
政治鬥爭就是你死我活。李訓自從攀附李逢吉失敗被處以流刑，他從中悟出了個人的人生信條，無論你是誰，你使用了多麼卑鄙的手段，但隻要你戰勝了，誰還去指責你的手段。如果輸了，手段再典雅也隻有死路一條。在不到一年的時間裏，幾乎把朝中的各種反對派政治勢力全部趕出了朝廷。為自己通往最高權力的路掃清了障礙。
李德裕罷相之後，李訓和鄭注的官級在不斷地上升。李訓由翰林院侍講學士晉為兵部侍郎、翰林學士、知製誥，官居顯位。當時有“內相”之稱，應該說已掌握了國家的大權。
李訓掌握了大權之後，同所有的政治家一樣，開始招兵買馬，培植自己的黨徒親信。尤其像他這樣的野心家，他更懂得結黨的重要性。尤其經過這次劇烈的政治鬥爭，許多大臣被趕出朝中，不少顯要的位子正空著，李訓開始安排他的黨羽。
首先想到的是舒元輿，他是李訓在洛陽閑居之時結交的朋友。舒元輿沒有因為自己受流刑而輕視自己，引為至交，這使李訓十分感動。尤其又互相期望日後有成，這種人當然可以信賴。因為當時都是不名的窮朋友，隻有友誼而沒有利害。不同於得勢後人們對你表示的友好，那全是為了利用你。於是把他先選為右司郎中兼侍禦史知雜，又提升為禦史中丞。接著李訓又把洛陽時的朋友郭行餘，提任為大理卿，同年進士顧師邕任為翰林學士，等等。在他的周圍形成了一個新的政治集團。大和九年九月，李訓和舒元輿終於實現了早年在洛陽時的理想，同時升任宰相。
達到了權力最高峰的李訓，麵對千瘡百孔的大唐帝國，決心有所作為。他希望能恢複到社會安定，經濟繁榮的初唐時開元、天寶盛世，以實現更高的政治抱負。於是他向文宗提出“先除宦官、再複河湟、次清河北”的基本國策，文宗深表讚同。
在唐朝，玄宗荒於朝政，大小事情由宦官高力士處理，因此打破了太宗不許宦官幹政的製度。到安史之亂後，宦官幹政幾成風氣。代宗時大宦官李輔國更是獨攬大權，而且還竊據相位。這些人身心受到摧殘，與皇帝經常接近，有的成為皇帝的親信，但由於心靈上對常人的不滿，報複性極強，如果他們幹預朝政，那是十分危險的。唐朝自順宗之後的9個皇帝中，有8個是宦官擁立的，他們掌握軍權，監護皇上，有的竟被宦官殺害。不治理宦官，想中興大唐那是不可能的。
從李訓個人方麵來說，清除宦官勢力，也是實現他個人野心的一個大步驟。因為他利用了宦官的勢力步入朝廷，取得了文宗的信任，他又利用宦官的勢力清除了相爭40餘年、在朝中根深蒂固的牛、李二黨。如今他當上了宰相，如果不鏟除宦官的勢力，他的宰相也是絕對當不穩的；如果他稍對宦官有所得罪，他的宰相可能就會立即掉下來。應該說這也是李訓玩弄權術的高明之處，當然不排除他對文宗受太監們擠壓的同情。不管怎麼說，李訓已經開始策動消滅宦官勢力的大計了。
李訓是個有頭腦的政治家，或者說是陰謀家，他明白與宦官決鬥不是鬧著玩的。此時他以大宦官王守澄作掩護，不與宦官們發生正麵衝突，而是利用宦官之間的矛盾，各個擊破。
首先，李訓決定先收拾殺害唐憲宗的元凶陳弘誌。其實憲宗是服藥失當，操勞過度而駕崩，稱他弑君隻是傳言。但有些言傳也足令朝野共憤，弑君之罪死有餘辜。李訓拿他開刀，既順應了人們的情緒，又可以鏟消宦官的勢力，可謂一舉兩得。此時陳弘誌為襄陽監軍，於是請文宗下旨將其召回，在漢南至青泥驛李訓派人將其杖殺。
在宦官中，勢力較大的還有左神策軍中尉韋元素、樞密使楊承和等，尤其韋元素，以擁立穆宗功臣自居，掌握兵權。王守澄與這一派宦官素有不和，長期明爭暗鬥。如果打著王守澄的旗號，表麵上看是替他掃除政敵，不會引起懷疑。於是李訓請文宗下詔，把韋元素放為淮南節度使監軍，楊承和放為西川節度使監軍，凡韋派宦官一律從朝廷中排斥出去。然後，又指使心腹黨羽，構造罪名，將他們再次貶往邊遠地區。然後派遣殺手中途攔劫追殺，將他們殺死於赴任途中。這樣韋元素派係的太監基本被消滅。為了進一步穩住王守澄，李訓又對同王守澄爭權的太監田全操、周元稹等進行打擊，請文宗下詔把他們貶出朝廷。