宇文智及說：“皇帝雖然無道，威令尚行，你們擅自逃走，恐怕也要像竇賢那樣，自取滅亡了。”趙行樞道：“那怎麼辦呢？”
宇文智及道：“如今天已亡隋，英雄並起。我們同心叛逃者已達數萬人，如果因此起事，此乃帝王之業也。”
趙行樞呆了半天，才說：“欲行大事，必須推舉一位主帥。我們人微言輕，難當此任。看來隻有公等兄弟，才能擔此重任。”
宇文智及佯裝大驚，說：“這個我倒沒想到，隻是和你們圖謀救命罷了。”趙行樞勸了半天，宇文智及總算答應與其兄商量。
趙元樞將宇文智及的意思告訴同黨，司馬德戡等都表示讚成。謀劃已定，眾人約同宇文智及，相偕至其兄右衛屯將軍宇文化及居處，推他為帥。
宇文化及是曾幫助楊廣篡位的宇文述的兒子。平日裏就是個膽小怕事的人，當宇文化及聽到眾人要他牽頭幹掉皇上、行大逆不道之事時，不由大驚失色，差點尿褲子。後經眾人慫恿，其弟力勸，方勉強答應。
司馬德戡等人到處散布流言，說隋煬帝聽說北方來的將士們要叛逃，準備了很多毒酒，想借犒軍的機會將他們全部毒死，隻把南方人留下。將士們聽了這些流言非常害怕，互相轉告，大家都有了謀反的念頭。
三月十日，司馬德戡召集諸將，宣布自己的謀反計劃，諸將皆拜伏在地，表示惟其命是從。這天夜裏三更時分，司馬德戡聚集了幾萬人馬，在東城放起火來。隋煬帝在宮中看到火光，又聽到外麵一片喧噪聲，就問值班的裴虔通發生了什麼事。裴虔通騙他說是草坊失火，人們正在救火。隋煬帝又摟著媳婦睡覺去了。
叛軍望見火光，紛紛行動，很快就控製了江都的大街小巷。
五更時分，天色微明。司馬德戡率兵殺入玄武門（皇宮北門），將守衛殺散後，直奔隋煬帝寢宮。
隋煬帝聞變，易服逃到西閣，被人搜出，押到眾叛將麵前。
眾叛將把隋煬帝押回寢殿，裴虔通等拎著刀站在他的身旁。隋煬帝說：“我有什麼罪，你們這樣對待我？”叛將馬文舉說：“陛下違棄宗廟，巡遊不息，到處騷擾百姓。對外則勤於征討，對內則驕奢淫逸，使多少丁壯死於刀矢之下，多少婦孺填於溝壑之中？如今四民喪業，民窮財盡，盜賊蜂起，幹戈不息。你不但不知悔悟，反而專門信任佞諛的小人，掩飾自己的錯誤，拒絕臣 下的諍諫，怎麼能說沒有罪？”
一席話，說得隋煬帝無言以對，他從何說起呢？他的那些理想抱負隻是空中樓閣。
過了一會兒，隋煬帝又說：“我實在對不起老百姓，可是你們這些人跟著我享盡了榮華富貴，有什麼資格來教訓我呢？今天的事，以誰為首？”司馬德戡應聲說道：“陛下多行不義，弄得普天同怨，反對你的，何止一人？臣等平日素受寵幸，今日之事，實在有負陛下。但如今天下大亂，兩京都為賊人占據，陛下欲歸無路，臣等亦求生無門。唯願借陛下之首以謝天下。”
隋煬帝自知難免一死，對眾叛將說：“天子自有死法，不能加以鋒刃，取毒酒來吧！”眾叛將不許。隋煬帝無奈，隻好解下自己的白色絲巾，交給叛將們。兩個叛將走上前來，將絲巾纏到他的脖子上，用力一絞。這個被曆史板上釘釘的暴君，頃刻間便魂歸西天了。隋氏宗室外戚，不論老幼，也全部被處死。
一個短暫的王朝就此拉下了帷幕。一個曾經有著萬丈雄心卻又操之過急的帝王再也不可能有所作為了。他的理想王國是自己一手打磨的雙刃劍，他企圖用它來征服天下卻最終閹割了他的萬丈雄心。
大規模的農民起義爆發了！隋朝即將走到它的盡頭。