說起兵，還真有人起兵了，不過起兵的不是魏元忠，而是太子李重俊。李重俊是李顯的第三個兒子，正常情況下輪不到他當太子，由於他的兩個哥哥都發生了變故，便輪到他當了太子。李重俊的大哥叫李重潤，李重潤是李顯和韋皇後所生，也是李顯和韋皇後最中意的兒子，不出意外的話，李重潤將繼承李顯的帝位，然而意外發生了。公元701年，李重潤、李仙蕙、武延基因為議論二張專權被武則天下詔處死，這樣李顯就失去了第一個太子人選。在李重潤之下是李重福，他是李顯的第二個兒子，但是並非韋皇後所生。不知道出於什麼原因，韋皇後對李重福非常忌恨，李顯剛登基，李重福就被趕出洛陽，前往均州（湖北丹江口）出任均州刺史，說是刺史，其實就是被軟禁的囚犯。這樣洛陽城中隻剩下李重俊和李重茂，他倆都不是韋皇後親生，隻不過相比之下李重俊更年長，因此李重俊被冊立為太子。就本性而言，李重俊聰明，做事果斷，如果有良師輔佐，或許能成為一代有為君主，遺憾的是，李顯給李重俊配備的官員，良師寥寥，貴族子弟居多。
李重俊的太子賓客有這麼兩位，一位是秘書監楊璬，一位是太常卿武崇訓，秘書監是皇家圖書院長，太常卿則掌管宗廟禮儀，按照常理，這兩個人當太子賓客便是教太子禮儀，然而李顯所托非人。楊璬和武崇訓都是青年貴族子弟，並且都是皇室駙馬，能力一般，性格孟浪，以這麼兩個人陪伴太子，能陪出什麼好呢？眼見太子成天不務正業，太子左庶子姚珽數次上疏進諫，太子右庶子平貞慎又獻上《孝經議》、《養德傳》諷諫，結果李重俊一概不理，拒諫派頭與老爹李顯如出一轍。不過除了拒絕納諫以外，李重俊的性格與李顯有著天壤之別，相比於李顯的一生軟弱，李重俊的性格就是一個火藥桶。說起來，李重俊這個火藥桶也是被逼出來的，如果讓他選擇，或許他也不願意做火藥桶。誰把李重俊逼成火藥桶呢？名單很長，有韋皇後，有武三思，有上官婉兒，有安樂公主李裹兒，有安樂公主的丈夫武三思之子武崇訓，他們一起打造了這個叫李重俊的火藥桶。
因為李重俊不是親生，韋皇後看他很不順眼，甚至十分厭惡；因為李重俊是太子，武三思對李重俊很忌憚，同時也很厭惡；因為上官婉兒與武三思私通，便站在武三思一邊，而且在上官婉兒起草的詔書裏，“挺武貶李“經常埋在字裏行間，這讓李重俊很氣憤；至於李裹兒和武崇訓，則是仗勢欺人，李裹兒自認為自己是韋皇後的親生骨肉，因此就比李重俊高貴，在她口中，李重俊甚至成了“家奴“；讓李重俊更加無法忍受的是，安樂公主的丈夫武崇訓甚至唆使李裹兒，去動員李顯廢黜李重俊，而把李裹兒封為皇太女。是可忍，孰不可忍！多種欺辱糾結在一起，李重俊選擇了爆發。公元707年七月六日，距離李重俊當上太子正好一年，李重俊調集羽林軍起兵。這一次他依仗的是曾經參與過逼宮武則天的李多祚，他們假傳聖旨，調動了羽林千騎衛士營三百餘人先衝進了一戶人家，將這戶人家父子以及相關親戚朋友十多人全部砍死。這戶人家的戶主叫武三思。武三思做夢也不會想到，自己居然會被李重俊這個後生活活砍死於家中，就這麼結束了輝煌的一生，太冤了。
誰讓你狂？狂沒有好處！砍死了武三思，李重俊下一個目標是上官婉兒，他一定要處理掉這個武三思的情婦，不然還是後患。李重俊兵分兩路，一路由左金吾大將軍成王李千裏率領守衛皇宮各城門，一路由自己和李多祚率領從肅章門砍門而入，進入後宮，擊鼓捉拿上官婉兒。聞聽捉拿自己的鼓聲，上官婉兒渾身一個激靈，她意識到必須與李顯捆綁到一起，如果不捆綁到一起，自己隻有死路一條。上官婉兒高聲喊道：“看他的意思，一定是先抓我，然後抓皇後，最後就是皇上。“一句話嚇傻了一群人。本來李顯和韋皇後還有拋棄上官婉兒自保的念頭，現在聽她一說，馬上意識到自己的危險，一群人趕忙連滾帶爬地登上了玄武門城樓，而在城樓下麵留下一百多人進行抵擋。與此同時，兵部尚書宗楚客等人則率領兩千餘人守護在太極殿前，緊閉城門進行固守。形勢對李顯相當不利。這時李多祚先抵達了玄武門下，他想登上城樓，卻遭到了守軍的阻攔，李多祚猶豫了，上還是不上呢？隨後李重俊也抵達了玄武門，他也猶豫了。