到了大業七年的仲春，煬帝帶了許多宮女，駕乘龍舟從江都出發，經過永濟渠，往北到達涿郡，沿途頒詔四方，不論遠近將士，都令他們齊聚涿郡，準備向東發兵征討高麗。煬帝又詔令幽州總管元弘嗣火速趕往東萊海口趕造三百艘戰船。元弘嗣不敢怠慢，帶著手下官吏晝夜督造。那些造船的民工每天站在水中，很少休息，他們的腰部以下都生了蛆蟲，幾乎十死三四。煬帝根本不管百姓死活，又發動江、淮以南的一萬名水手，三萬名弩手，三萬名嶺南排鑹手，並命令河南、淮南、江南三處建造五萬輛戰車送到高陽，供士兵們裝載衣甲幔幕。長江、淮河兩岸的民夫都被征調來運輸軍需。此外，煬帝還撥派長江、淮河的民船輸運黎陽和洛口米倉的糧食到涿郡。千裏之間往返運送的民工將士達數十萬人，日夜不能停歇，累死了無數人。煬帝自己則駕臨涿郡的臨朔宮，所有跟隨而來的文武官員都另外安排宅府居住。煬帝整天在宮中迷戀酒色，和平時一樣，隻知朝征糧，暮征兵，根本不管兵民死活。長江、淮河到涿郡可謂路途遙遠，舉步維艱，短時間不能會集，隻能暫時拖延過去。從大業七年的初夏開始，直到第二年孟春，天下兵民才齊集涿郡。
煬帝又召來合水令庾質當麵詢問道：“高麗的兵民不及我朝的一個郡縣的實力，現在朕率軍前去征討，卿以為能否得勝？”庾質答道：“以眾敵寡，怎麼能不勝利呢？隻是臣不願陛下親自前往。”煬帝臉色一變地說道：“朕統兵到了這裏，怎能不戰先退，這不是自挫銳氣嗎？”庾質又說道：“勝負乃兵家常事，如果沒有攻克反倒損害陛下的威靈，陛下不如在此坐鎮指揮，命令猛將勁卒按照旨意進攻，倍道兼行，出敵不意，才能一舉拿下。兵貴神速，如果行動太慢隻怕會徒勞無功了。”煬帝不肯依從，反而叱責道：“你如果害怕，盡管留在這裏好了。”於是煬帝下詔將大軍分為左右兩翼，左翼十二軍出擊鏤方、樂浪；右翼十二軍出擊粘蟬、襄平，先後啟程，在平壤會合，總共有一百一十三萬三千八百人，號稱二百萬。煬帝親自調度安排，每軍置派大將、亞將各一人，騎兵四十隊，每隊各一百人，十隊為一團，步兵八十隊分作四團，每團又各設有偏將一人，戰服、鎧甲、旌旗顏色各不相同。輜重散兵等人夾雜在步兵行列中，前軍先行，後軍繼進，相距約四十裏。護駕的禦營六軍最後出發。大軍走了四十多天才全部離開涿城，首尾銜接，鼓角相聞，旌旗綿亙九百六十裏，真是近古以來，少見少聞的軍隊儀仗。途中，煬帝又任命段文振為左候衛大將軍，出兵攻打南蘇道，段文振在行軍途中患病，就上表給行軍中的煬帝，勸他派遣精兵銳將，速戰速決，否則遷延會帶來諸多不利。
煬帝看完表書，不以為然，沒多久就接到段文振的死耗，煬帝雖然痛惜，但對段文振表中所說的話仍是半信半疑。走了好幾天大軍才到達遼水，眾軍會齊後臨水為陣。高麗兵阻水拒守，隋軍不得前進。右屯衛大將軍麥鐵杖說道：“大丈夫性命自有定數，怎能臥死在兒女手中呢？”於是麥鐵杖自請擔任前鋒，並對三個兒子說道：“我身受國家厚恩，今天應當戰死沙場。我如果戰死，你們就能長保富貴了。”這時工部尚書宇文愷奉命建造三座浮橋，連夜告成，把浮橋架設在遼水上麵，自西到東，浮橋短了一丈多，不能相通。這時高麗兵殺了過來，隋兵跳到水中迎戰，淹死了很多人。麥鐵杖一躍上岸，闖入高麗軍的陣內，虎賁郎將錢世雄、孟乂也躍過中流，與麥鐵杖先後殺入，三人如同猛虎一般，高麗兵也被殺死無數。隻可惜後麵的隋軍躍不過來，隻憑他們三人奮身死鬥，畢竟勢孤力竭，相繼戰死。隋軍不得已撤兵收橋，回到西岸。
煬帝聽說麥鐵杖戰死，追贈他為宿郡公，令他的長子麥孟才襲承爵位，次子麥仲才、三子麥季才全都被封為正議大夫。煬帝又命令少府監何稠督工接橋，兩天才完工，再次架設到遼水上。諸軍依次奮進，得以渡過遼水，把高麗兵殺得七零八落，死了一萬多人，其他的都逃回了遼東城。隋軍乘勢進攻，把遼東城團團圍住。煬帝也渡過遼水東進，命尚書衛文升前去招撫遼左人民，免役十年，並且下詔對全軍將士說道：“朕此次東征並不是為了自己的功名，諸將如果不明白朕的心意就輕率出兵襲擊，孤軍獨鬥，隻想著自己立功，好邀功請賞，這實在不是大軍作戰的本意。卿等進軍，應當分為三路，或退或攻三路都應知道，不能輕舉妄動導致喪亡。並且軍事進退都要事先向朕奏報，靜待批複，如果擅自行動，即便是有功，朕也必定會加罪。”諸將接到這道諭旨，都不敢行動了。
高麗兵在遼東城中嚴防死守，隋軍很多天都沒能攻下，煬帝又開始焦急，親自觀看城池形勢。他見城牆不是很高，城濠也不寬廣，可偏偏幾日來毫無進展，想必是將士疲乏隻顧休息所致，因此又召來諸將詰責道：“你們把朕當作木偶嗎？朕下令東征，你們都不願朕親自前來。如今朕到了這裏，正想觀看戰況，了解你們的作戰能力，結果你們果然怕死不戰，難道非逼朕軍法處置你們嗎？”說到這裏，煬帝已經勃然大怒。諸將先前接旨不敢妄動，如今又被煬帝如此責問，都慌忙謝罪。於是右翊衛大將軍來護兒決定攻打平壤，率領長江和淮河的水軍先行進攻，在距離平壤大約六十裏的地方，與高麗兵相遇。來護兒乘銳進攻，大破敵兵，便麾兵進攻平壤城。副總管周法尚在旁邊諫阻，說等後麵各路大軍彙齊後再進攻。來護兒不聽，立即領著四萬精兵直逼城下。高麗兵出城迎戰，來護兒督兵與他們交鋒，沒幾個回合，高麗兵就退回城中。來護兒驅軍入城，城門倒是沒有關閉，任由隋軍直入。隋軍一入城，就分頭四處搶掠，亂了陣腳，突然四下裏殺出千百名埋伏的高麗兵，把隋軍殺得人仰馬翻，好像砍瓜切菜一般。來護兒一看才知上當了，急忙鳴金收軍，結果軍士一半在城內，一半在城外，內外不能相顧，死的死，逃的逃。來護兒也狼狽逃走，高麗兵在後緊追不舍，多虧周法尚整軍迎救，才將高麗兵擊退。來護兒收拾殘眾，退回到海浦駐守，不敢再貿然前進。