那時，虎牙郎將趙元樞已經和司馬德戡、裴虔通等人串通一氣，約好日期西逃，他和將作少監宇文智及是莫逆之交，因此他將密謀告訴了宇文智及。宇文智及微微嘲諷道：“陛下雖然淫虐，可威令還有效力，君等逃跑，隻怕會重蹈竇賢的覆轍，自取死亡。”趙元樞皺眉說道：“那可如何是好呢？”宇文智及說道：“現在隋朝已失天下，英雄並起，同心謀叛，眼前我們手中還有幾萬人，如果乘機舉事，則小可為王，大可為帝呢。”趙元樞想了半天才說道：“欲行大事，應該推舉主帥，看來隻有你們宇文兄弟可以擔當此任了。”宇文智及說道：“這事我必須和我的兄長商議一下。”趙元樞出來後將此事告知同黨，司馬德戡等都很讚成。隨後，趙元樞又和宇文智及來到宇文化及的居處，說願意推舉宇文化及為元帥。宇文化及非常膽怯，但經這些人一再慫恿，又加上宇文智及從旁力勸，他便勉強答應下來。司馬德戡又招來驍勇果敢的將士，說出密謀一事，眾人齊聲說道：“聽將軍令！”於是他們摩拳擦掌，準備行事。煬帝其實也不是一點提防都沒有，他稍微懂得一些星象，常常夜間起身觀看天象，望見天象不佳，便召來太史令袁充詢問。袁充伏跪在地上大哭道：“星相大惡，賊星已經逼近帝王星座，隻怕禍在旦夕之間了，陛下隻有修德養生才能消災。”煬帝聽後很不高興，起身進入偏殿，垂頭喪氣地坐著。煬帝回頭看到王義在身邊，便對他說道：“你知道天下將亂嗎？你為何不說話？”王義哭著答道：“天下大亂，由來已久，小臣在深宮服侍，不敢幹預朝政，如果早早直言，隻怕臣的骨頭早已朽了。”煬帝歎息地說道：“從古以來，哪有不滅亡的國家，不死的主子呢？”王義跪著哭道：“陛下到了今日，還在掩飾自己的過錯。臣曾聽陛下說過，要超越三皇五帝，俯視商周，成為萬世不可及的聖主。如今時勢至此，連聖駕都不能回京了，豈不是違背了前言嗎？”
煬帝也辯解不了，隻是流著眼淚說道：“你真是忠臣，朕後悔也來無及了。”王義又哭著說道：“臣從前不敢盡說忠言，是貪生怕死，如今將全部事實奏報，願以一死報謝聖恩，請陛下保重！”說完，他便叩頭辭去。一會兒，有人稟報煬帝，說王義自刎了。煬帝非常悲傷，命人厚葬了王義。沒多久，煬帝又接到幾處警報，武威司馬李軌占據河西，自稱涼王；羅川令蕭銑占據巴陵，自稱梁王；還有金城亂首薛舉之前號稱西秦霸王，現在占據天水，居然自稱秦帝了。煬帝急得沒有辦法，隻有自歎自哀。好不容易熬了幾天，他正和後妃們飲酒消遣，忽然看到東南角上火光衝天，一片喧噪聲，慌忙召來一位將軍詢問原因。那將軍不是別人，正是密謀作亂的裴虔通。裴虔通對煬帝說道：“陛下不要驚慌，隻是草坊失火，外麵的兵民正在撲救，所以才有喧嘩聲。”煬帝這才放心，令裴虔通在外麵嚴守，自己酣飲至醉，帶著蕭後、朱貴兒安然同寢去了。
不久，雞聲報曉，天色漸明，那叛兵已經擁入玄武門，大刀闊斧地殺入宮來。玄武門前本有數百名精壯的衛兵，由煬帝特別挑選，賜給重賞，派他們駐守宮門。這天夜裏，司宮魏氏得了叛黨的賄賂，假傳詔令，命衛兵休息。司馬德戡率先入宮，如入無人之境，再加上裴虔通作為內應，將宮門一律關閉，隻打開東門，迎納叛軍進來。隻有右屯衛將軍獨孤盛和獨孤開遠沒有叛變，他們眼見形勢不妙，立即出來責問裴虔通，裴虔通說道：“事已至此，與將軍無關，將軍不必動手，可同保富貴。”獨孤盛怒罵道：“老賊說的這是什麼話？”於是他拔刀和裴虔通搏鬥，戰了幾個回合，司馬德戡已率叛眾直入，來援助裴虔通。獨孤盛的手下隻有幾個人，哪能敵得住這麼多叛黨，不一會兒獨孤盛就被刺死，左右全都逃散。獨孤開遠急忙馳入城中，途中集結幾百名衛兵人到門外大聲呼喊，卻沒有一人答應。這時，叛軍已經追來，他隻好回馬迎戰，被叛軍刺死在馬下。隨後，叛軍砍破門，衝了進去，來到寢殿尋找煬帝。正是：
群雄逐鹿幾經秋，錦繡河山已半休。
到此昏君猶不悟，蕭牆怎得免戈矛？