運河開鑿到彭城時，路過一大片樹林，林中有一座徐偃王墓。麻叔謀令人挖掘，掘了幾尺後，裏麵堅硬如鐵，等仔細一看，才發現是由生鐵熔成，旁邊豎著石門，異常森嚴。麻叔謀采用一個叫楊民的人的建議，用巨石撞開墓門，麻叔謀親自前去探看，有兩位童子在門內迎接，對麻叔謀說道：“我家大王盼望將軍到來很久了，請快快進來！”麻叔謀也不由自主地跟隨他進去。麻叔謀走進去一看，發現裏麵有一座宮殿，和之前夢中的有些相似，殿上也坐著一位雍容華貴的王者。麻叔謀跪拜，王者也起身答禮，和顏悅色地對他說道：“寡人的墓穴正在河道當中，還請將軍保護，我願奉上寶玉作為酬謝。”說完，王者取出玉印交給麻叔謀。麻叔謀一瞧，是曆代帝王受命的符璽，讓他又驚又喜。那王者又繼續說道：“將軍必須保管好這寶物，這可是刀刀的預兆啊。”麻叔謀聽不明白，隻能道謝出墓，傳令役夫將墓室蓋好，恢複原狀。當時煬帝正失去國寶，四處搜尋都沒有下落，隻好秘密不宣。那麻叔謀得了國寶，還以為有神靈相助，將來可以榮登九五，非常高興，就把國寶好好藏著，不讓外人知道。
等到煬帝得知麻叔謀開鑿運河時，為了避開睢陽城竟繞遠了二十裏，便將他拘捕進睢陽獄中。他正惶急得很，偏偏令狐達又上書彈劾，把他偷食百姓家的嬰兒，和地方惡賊陶榔兒相勾結，私受睢陽民眾三千兩黃金，擅自更改河道等事情全部揭發出來。煬帝問他怎麼不早早奏報，令孤達說早已奏報，隻是被段達扣住，不能進呈。煬帝立即下令查抄麻叔謀的私產，得到若幹黃金，不過還分辨不出是否是睢陽百姓所賄送的。可那白璧和受命的玉璽也被搜了出來，那玉璽上的字紋非常明顯，一看便知。煬帝大驚失色地說道：“黃金和白璧都是微小之物，不必追究，隻是朕的國寶，怎麼在他這裏？”煬帝便召令狐達來詢問。令狐達說道：“聽說麻叔謀曾和陶榔兒偷竊嬰孩，莫非國寶也是他盜的不成？”煬帝臉色一變，說道：“麻叔謀今日盜我國寶，明日就將盜我頭顱了，這還了得！”煬帝立即令法司嚴審麻叔謀，並把陶榔兒抓捕來，一同審問。麻叔謀據實招供，審問官還總覺得他是憑空捏造，審問官便認為陶榔兒是盜取國寶的竊賊。陶榔兒隻說盜人家嬰兒是事實，可不敢去偷盜國寶。審問官不肯相信，嚴刑拷打，竟將陶榔兒給打死了，而且就此定案，奏請煬帝處死麻叔謀。煬帝說道：“麻叔謀犯下大罪，朕姑念他開河有功，赦免他的子孫，隻將他腰斬結案吧。”麻叔謀被斬的前一天晚上，在獄中夢見一位童子從天降，對他說道：“宋襄公和大司馬華元特地派我前來，感謝將軍護城的厚意，因此將去年所許諾將軍的二把金刀送來。”麻叔謀還不知金刀是何物，向他索要。童子厲聲說道：“死期到了還執迷不悟，明早自會見分曉。”麻叔謀驚醒，仔細思量夢境，才悟出不祥之兆，便歎息道：“我的命難保了。”第二天早晨，已有詔文傳來，將麻叔謀捆綁扔到河濱，斬成三段，家產沒收。那時，中門使段達駐守在東都，沒有隨駕南行，煬帝傳詔到東都，降恩免死，將他貶為洛陽監門令。睢陽、寧陵一帶的百勝聽說麻叔謀被殺，都拍手稱快，男男女女都到河邊來看麻叔謀的屍體，你一磚，我一石，將他的屍體砸成了肉醬，才解恨散去。
煬帝在睢陽小住了幾天，又啟程南下，沿途沒有什麼阻礙，隻是大將軍許公宇文述在途中病亡。宇文述的兒子宇文化及、宇文智及都是遊手好閑的無賴，之前護駕巡遊到榆林，兩人都觸犯禁令，私自和突厥貿易。煬帝本想誅殺他們，因念及宇文述的功勞，特地從寬赦免。宇文述死後，煬帝命人用厚禮將他安葬，賜他諡號為恭。煬帝並授封宇文化及為右屯衛將軍，宇文智及為將作少監，仍讓他們護駕南行。宇文智及的弟弟宇文士及娶了煬帝的長女南陽公主，為人還算賢良謹慎，這一對青年夫婦也隨駕前往江都，後文中自有交代。
這邊聖駕暢遊，那邊的盜寇更加猖狂，此前在逃沒被抓獲的李密先後前往投靠齊郡鄒縣的王薄和平原的郝孝德，都得不到禮遇，於是李密便藏匿在淮陽村舍中，改名為劉智遠，聚收徒弟、教授武藝。當地的郡縣官見此人形跡可疑，便派人去抓捕，李密又逃走了。當時東都有個法曹叫翟讓，他犯了法，理當問斬，獄吏黃君漢愛惜他驍勇，便打開刑械，放他出獄。翟讓拜謝離開，悄悄前往瓦崗寨，占山為盜。同鄉人單雄信擅長騎馬射箭，也糾集少年入寨幫助翟讓。還有離狐人徐世勣，年少多才，也來到翟讓這裏獻議道：“東郡的於公和世勣是同鄉，人們大多認識，不宜侵掠。滎陽、梁郡是汴水通流之處，商旅不絕，如果在那裏搶奪商船，就能自給自足了。”翟讓立即依從，命令徒黨到二郡中，掠奪商船財物，充作費用。當時人心思亂，輾轉歸附翟讓的有一萬多人。此外還有外黃的王當仁、濟陽的王伯當、韋城的周文舉、雍邱的李公逸與翟讓各自占據一方，互不往來。
李密逃出之後，就往來於各賊帥之間，勸說他們乘亂崛起，奪取中原。各賊帥最初還不相信，經李密說得天花亂墜，都有些動心，便推舉李密為謀主。李密與各地首領聯絡，差不多如蘇秦約縱一般，大家互相轉告道：“現在人人都說楊氏要滅亡了，李氏即將興盛，這個人能一再脫險，莫非就是古人所說的王者不死嗎？”大家爭相尊敬李密，想立李密為主。這時，王伯當和翟讓互相有所來往，李密立即請王伯當代為引見翟讓，並為翟讓出謀劃策，替他說降了不少的小盜前來歸附瓦崗寨。因此翟讓和李密交好，共同商討大事。李密對翟讓說道：“劉邦、項羽都是從平民起家的，劉邦後來還做了皇帝。現在天子昏庸無道，民不聊生，大亂已起，正是我們奮身建功的大好時機。像您這樣雄才大略，擁有一萬多部眾，如果席卷二京，誅除暴虐，怎見得不如劉邦、項羽呢？”翟讓推謝不敢當。這時，東都有個李玄英前來投奔李密，傾心相談。李玄英說道：“近來民間歌謠中有唱道：‘桃李子，皇後繞揚州，宛轉花園裏，勿浪語，誰道許？’這幾句話隱喻征兆。桃李子，是說李子逃亡；皇後宛轉揚州，是說天子將在揚州斃命；勿浪語，誰道許，隱隱藏著一個密字。可見李密是日後的真天子，所以特來投誠。”隨後，宋城尉房彥藻等人也來投奔李密，他們一起來到瓦崗寨中。李密又和瓦崗軍師於雄結交，讓他說服翟讓出兵中原。因此於雄對翟讓說道：“公如果自行起義，恐怕難成大業，如果推立李密為主，事事皆成。”翟讓笑著說道：“李密如果能為王，又何必依附於我？”於雄答道：“將軍姓翟，翟義為澤，李密為蒲山公，蒲這種植物離開澤水不能生長，所以他才來依附將軍。”翟讓信以為真，就聽從李密的建議，發兵攻取滎陽諸縣。