第一次規模浩大的遠征行動失敗了，可是煬帝顯然不會就此罷休。在隋朝強盛國力的支持下，僅僅隔了一個冬天，第二年（613）春，他又準備再次征討高麗。天下兵馬再一次集於涿郡（今北京），戰鼓也又一次被擂響。
煬帝這樣的行動必然會再次引起騷亂，之前國內已經是群盜蜂起，現在更是開始規模化、集團化發展。齊郡王薄、孟讓，北海郭方預，清河張金稱，平原郝孝德，河間格謙，渤海孫宣雅，各聚眾攻掠，他們人數多的有十餘萬，人少的也有數萬，郡縣官府的圍剿軍根本不是對手。而真正精銳的隋正規軍卻都聚集在涿郡準備征高麗，外重內輕，國家的動亂眼看就要愈演愈烈。此時隋朝出現了一個優秀的救火隊員，那就是名將張須陀，他率領齊郡的郡兵，以羅士信、秦叔寶為先鋒，先破知世郎王薄於泰山，再率兵兩萬破孫宣雅、郝孝德與王薄的十餘萬聯軍，後接連大敗裴長才、郭方預等軍，山東河南等地的局麵暫時被他控製住了。而後世知名的隋唐英雄人物如今也紛紛粉墨登場，或為盜賊或為官軍，真可謂你方唱罷我登台，端的是熱鬧非常。
大業九年（613）一月煬帝留代王楊侑留守長安、越王楊侗守東都洛陽。三月，隋煬帝從洛陽出發，再度率軍親征。四月二十七日，隋煬帝的車駕渡過遼水，正式圍攻遼東城。
畢竟有了第一次的經驗，第二次征討高麗顯然比第一次目標明確了很多，這次一開始就兵分三路，宇文述、楊義臣、王仁恭率部直趨平壤，而煬帝本人率諸將圍攻遼東城，另外來護兒從東萊率水軍入海直攻平壤。煬帝顯然認識到了第一次征高麗所犯的錯誤，這次不再對手下將領指手畫腳，而準許他們便宜行事。
初次征遼回軍之時擔任殿後重任並順利擊破追兵的大將王仁恭此次被委以先鋒的重任，他出扶餘道進軍新城（今撫順北關山城），高麗守軍數萬以城池為依托列陣與王仁恭抗衡。此時野戰當中高麗軍與隋軍戰鬥力上的巨大差異再次顯現，王仁恭僅僅出動了一千精銳騎兵便將高麗軍徹底擊潰，高麗人無奈隻能用老辦法，據城死守。
這邊隋軍攻遼東城那是法寶盡出，飛樓、橦、雲梯、地道四麵俱進，晝夜不息，猛攻遼東城。而高麗方麵也有不同的應對策略，兵來將擋、水來土掩，雙方性命相搏二十晝夜，傷亡巨大。當然攻城不單單靠這些器械，隋軍中還有些奇人異士，更是厲害非凡。
隋軍征遼東之時，軍中有個叫沈光的，恰巧他和麥鐵杖一樣，也是個南方人，他父親君道曾經擔任過南朝陳的吏部侍郎，陳亡之後舉家遷往長安。可是很不幸的是，他家裏因為漢王楊諒謀反受到牽連敗落，淪為貧民。家道一落千丈，這樣的反差當然不是任何人都能適應的，他的父兄沒有其他謀生技能，隻能仗著還有點文采幫人寫寫書信之類的賺錢。可是這個沈光不一樣，他從小生得矯健敏捷，而且有一手調教馬匹的本事，史書中稱其是“天下之最”。
另外，沈光熟通輕功。當時有座禪定寺，寺內有個旗杆高達十餘丈，綁旗子的繩子斷了，無人能爬到旗杆頂上換繩子。這時候沈光來了，他“以口銜索，拍竿而上，直至龍頭。係繩畢，手足皆放，透空而下，以掌拒地，倒行數十步。觀者駭悅，莫不嗟異，時人號為肉飛仙”。