攻城的日期已經定下，遼東城危在旦夕。正在這時，楊素的兒子楊玄感造反了，煬帝隻好私下裏讓將領帶領軍隊秘密回國。軍用物資、武器裝備、攻城器具，堆得像山一樣，加上營寨、帳篷，全都丟棄在原地。當時隋軍人心惶惶，不聽約束，各路軍隊跟第一次潰敗時幾乎一樣，毫無組織。第二次出征高麗，因為國內叛亂，就這樣不了了之。
又過了一年，也就是大業十年（公元614年），楊玄感的反叛已經被鎮壓下去，出征高麗的念頭又湧上煬帝心頭。二月，煬帝下詔讓文武百官商議此事，可惜的是文武百官根本不予配合，一連幾天都鴉雀無聲。
不過胳膊到衣拗不過大腿，文武百官不合作歸不合作，煬帝最後還是決定了。
七月十七日，煬帝車駕駐留懷遠。當時天下大亂，所征召的軍隊大都沒有按時到達，不過高麗當時也已困頓疲憊。
右驍衛大將軍來護兒率領軍隊抵達畢奢城，高麗出兵迎戰，被來護兒打敗。隋軍準備進逼平壤。高麗王高元十分害怕於十十八日遣使向來護兒請降。煬帝大喜，派遣使者持符節召回來護兒。
來護兒召集部下說：“大軍三次出征，高麗都沒能平定，這次回去就不能再來了，勞而無功，我私下很以為恥。現在高麗的確困頓疲憊，以我們這麼多兵力進攻，取勝指日可待。我準備進兵直接包圍平壤，擒獲高元，勝利凱旋，不是更好嗎？”
於是來護兒上表請求出征，想擒獲高元後再班師。長史崔君肅堅決爭執，來護兒不答應，說：“看高麗的形勢，一定會被攻破，大家相信我，我們可以的。我在朝廷之外，可以自己決定，我寧願擒獲高元而受到譴責，也不能放棄這次成功的機會！”
崔君肅對大家說：“如果聽從元帥違抗詔命，那麼皇上怪罪下來，我們都會受到牽連。”每個將領都很恐懼，要求返回。來護兒隻好接受詔命。
煬帝返回西京，讓高元到西京朝見，但高元竟然不來。於是煬帝下令眾將領整理行裝，準備再一次進攻，但終究沒能成行。
隋朝建國之初，曾經富庶一時，煬帝不恤國力，三次征討高麗，不但最後無功而返，而且使百姓苦不堪言、怨聲載道，結果起義不斷。隋朝覆亡的禍根其實就是種在這裏呀。
瓦崗寨起義
東郡韋城人翟讓原是東郡的法曹，由於觸犯了法律應當問斬。獄吏黃君漢驚奇於他的驍勇，夜裏偷偷地對他說：“翟法司，我看你也是條漢子，怎麼能在監獄裏等死？”
翟讓驚喜地說：“翟讓現在就是關在圈裏的豬，是死是活隻能由您說了算。”
黃君漢立刻把翟讓身上的枷鎖打開，放他出來，翟讓說：“我蒙受您的再生之恩，得以幸免，可是您怎麼辦呢？”說完哭泣流淚。
黃君漢生氣地說：“本來以為你是個大丈夫，日後能救大眾性命，這才冒死放你出來，你怎麼能學小兒女的樣子流淚感激呢！跑吧！不要為我擔心！”於是翟讓逃到東郡附近的瓦崗做了盜賊。他的同郡人單雄信驍勇矯健，擅長騎馬用槊，號召了一幫青年人一塊去追隨他。
離狐人徐世家在衛南，當年才17歲，勇敢又有謀略，他勸說翟讓，說：“東郡是我們的家鄉，很多人都認識，侵犯東郡不大合適。滎陽、梁郡，汴水從那兒流過，我們搶掠行船、掠奪商旅，足以自給。”
翟讓同意了，於是率領眾人進入滎陽、梁郡的邊境，搶奪行船，以供自用，後來歸附的人越來越多，很快達到了1萬多人。
此時跟隨翟讓的人很多，蒲山公李密跟隨楊玄感謀反失敗，從雍州逃亡後，四處奔走，也找到了翟讓的隊伍，向他們遊說奪取天下的謀略。
開始時大家都不相信，慢慢地大家開始信任李密，都說：“這個人是公卿子弟，能有這樣的誌氣，實屬難得。現在人們都說楊氏將要滅亡，李氏將要興起，都說最後做王的人大難不死，這個人就是這樣，他們說的難道就是這個人嗎？”於是漸漸開始敬重李密。