皇帝倒行逆施的直接結果就是整個帝國範圍內的大動亂，無法生存的人民紛紛起來反抗，最終導致了整個帝國的崩潰。
對隋末大亂，後世編撰的評書小說裏曾用這樣一句話來描述這些造反勢力的數量，那就是“十八路反王、六十四路煙塵”。其實不算隋帝國原本的貴族、將領，單是農民起義軍的數量就達一百三四十支，參加起義軍的總人數在四五百萬人以上。這些隋末的英雄們在中原大地上演出了一幕幕傳奇，為一個大帝國的崛起拉開了序幕。
在《隋唐演義》或《說唐》中，瓦崗寨（今河南滑縣南），是一個至為關鍵的地方，最主要的英雄豪傑都出身於此，比如義氣無雙的秦瓊秦二哥、神算無雙的徐茂功、混世魔王程咬金等。在真實的曆史中，瓦崗寨中的重要首領也有著舉足輕重的地位。論名臣有魏征，論名將有初唐二李之一的李世□（李世□本名徐世□，投降唐朝後賜姓為李，之後因避唐太宗李世民的諱改名為李□，為全文姓名上的統一，因此統稱為李世□），論勇將有秦瓊、程咬金、單雄信等人。但瓦崗寨初期也不過是一支普通的農民起義軍而已。它從籍籍無名發展壯大，成為一支可以逐鹿中原的大勢力，可以說是極盡曲折。
瓦崗寨剛剛創建時的首領叫翟讓，他是東郡韋城（今河南滑縣東南）人，做過東郡（治白馬，今河南滑縣）法曹，相當於現在的公安局局長兼司法局局長。翟讓犯了法要被殺頭，結果獄吏黃君漢覺得這人非常驍勇，是個人才，於是晚上偷偷地跑到獄中跟翟讓說：“翟法司，世事難料，怎麼能在監獄裏等死呢？”翟讓又驚又喜，說：“我翟讓現在如同關在圈裏的豬一般，生死就看黃曹主的了。”黃君漢當即給翟讓打開枷鎖，翟讓邊哭邊說：“我蒙您的再生之恩得以幸免，但黃曹主您怎麼辦呢？”黃君漢發怒道：“我本以為你是個大丈夫，可以拯救黎民百姓，所以才冒死來解救你，你怎麼像兒女子弟一樣以涕淚來表示感謝呢？你就設法努力逃脫吧，不要管我了！”這個黃君漢日後坐到了夔州都督、虢國公的高位，是唐帝國平定南方的得力幹將之一。
翟讓逃獄之後，無路可走，正好天下大亂，他這位前國家暴力專政機構的中堅分子轉頭就幹起了號稱是“替天行道”但其實是打家劫舍的行當。這時候有兩個人投奔了翟讓，其一為單雄信，此人在評書當中大大有名，號稱手使金頂棗陽槊，胯下騎閃電烏龍駒，五虎上將第一名。在真實的曆史當中也是一個貨真價實的猛將，驍勇無比，並且善用馬槊。史書上說他是翟讓的好朋友，翟讓落草之後他就率領“同郡少年”去瓦崗寨投奔翟讓。在進入瓦崗寨之前，單雄信的身份很成問題，沒有人知道他是幹什麼的。不過之前有一個沈光的例子，能一下子聚集很多“少年”落草為寇的，那單雄信以前的身份就呼之欲出了。單雄信應該是當地“無賴少年”的頭領，平素跟翟讓這個執法人員交好。現在翟讓垮了，他很可能便成為新任法曹的立威對象，不得已帶著手下投奔了瓦崗寨。另一人李世□，初唐二李之一。他在評書中的形象就是那個類似於諸葛亮，能掐會算的徐茂公。這位在初唐曆史上的地位完全可以用“巨頭”二字概括，後被封為英國公，是淩煙閣二十四功臣之一。李世□在落草之前家裏是大地主，是中國儒家文化中典型的縉紳家族。有這樣的家庭背景，李世□其實完全不應該跟瓦崗寨這群落草為寇的盜賊混在一起。而李世□卻在十七歲就上山入了夥，這其中的原因史書中卻一點兒也沒有提過。不過從史書中的描述上倒是可以看出一點蛛絲馬跡。李世□上山之後立刻向翟讓提出：“附近是您與我的家鄉，鄉裏鄉親，不宜侵擾，宋、鄭兩州地近禦河，商旅眾多，去那裏劫掠官私錢物非常方便。”其實話裏話外就是告訴翟讓兔子不要吃窩邊草。李世□的家離瓦崗寨不遠，如果翟讓劫掠鄉鄰，身為大戶的李世□家肯定遭殃。因此李世□很有可能是為了自保才入夥瓦崗寨。翟讓的戰鬥力本已頗為可觀，又擁有了單雄信這等猛將和李世□這樣的超級天才，真是如虎添翼，勢力大長。
自古以來官兵當強盜的事情不勝枚舉。一般來說，官兵當了強盜之後往往比普通的強盜更為厲害，翟讓落草為寇之後建立的瓦崗寨也是這樣。對於官軍的套路翟讓實在太過熟悉，另外他手下還有兩個超一流人才，起初發展可謂順風順水，很快就聚集了上萬人馬，形成一定規模之後自然會引來更為精銳的朝廷勢力的鎮壓。前來圍剿的官軍也很有趣，統帥便是前文提到過的張須陀，其手下大將秦瓊秦叔寶在《隋唐演義》中被形容為“胯下黃驃馬，馬踏黃河兩岸，掌中一對熟銅鐧，威震山東三周六府半邊天”。在演義中，秦瓊不但和隋朝有仇，並且還是單雄信與李世□的好兄弟，在四十六友大結拜之後便扯起了造反的大旗，在瓦崗寨上大戰官軍，殺得隋軍抱頭鼠竄。
了解了評書之中的秦瓊之後再看曆史上真實的秦瓊，我們往往會有一種角色錯位的感覺，曆史上真實的秦瓊恰恰是被自己殺得抱頭鼠竄的隋軍中的一員，而他所屬的部隊又是鎮壓農民起義軍最為得力的張須陀部。無獨有偶，評書中秦瓊的傻兄弟羅士信同樣也是張須陀軍中的將領，跟隨著張須陀東征西討，立下了汗馬功勞。
張須陀二十歲就從軍作戰，後來升位齊地的郡丞。煬帝征遼東時天災人禍使得山東饑荒，米價暴漲。張須陀當機立斷，決定開倉賑災。可是這種事情不是一個郡丞能夠做主的，所以其手下的官員均表示反對。張須陀卻力排眾議，先斬後奏，解了災民的燃眉之急。爾後王薄造反，拉了上萬人馬到處劫掠，官軍幾次征討均被打敗，張須陀隻得親自出馬征伐。張須陀有勇有謀，他親自出馬之後王薄在泰山之下遭到偷襲，隻能北逃。但是張須陀窮追不舍，在臨邑，又大破王薄軍，斬首五千餘級，獲六畜萬計。爾後王薄又聯合豆子賊孫宣雅、石秪闍、郝孝德等眾十餘萬攻打章丘。張須陀先派水軍阻截了王薄渡河之處，然後親率兩萬陸軍與之大戰，王薄軍大敗，逃到渡河之處卻發現去路早絕，結果前後遇敵，人員財物被俘獲無數。
把王薄這個出頭椽子打下去之後，張須陀一發不可收拾，數年中他東征西討，先後打敗剿滅裴長才、石子河、秦君弘、郭方預、左孝友、盧明月、呂明星、帥仁泰、霍小漢等眾多起義軍。可謂是聲名赫赫。大業十二年（616）十月，隋煬帝楊廣責怪滎陽太守楊慶作戰不力，加派河南道十二郡黜陟討捕大使張須陀兼任滎陽通守（通守位次太守），率領勁旅兩萬來攻擊瓦崗軍。此時的張須陀已是“威震東夏”的剿匪名將，瓦崗軍在他麵前幾乎不堪一擊，前後三十餘戰，戰無不敗。
可是一個“救火隊員”再怎麼拚命也不可能挽救注定要敗亡的局麵，就在瓦崗寨日益窘迫的情況下有一個人投入了瓦崗寨，使得戰局發生了翻天覆地的變化，這個人就是李密。我們知道李密是楊玄感造反時的謀主，楊玄感失敗後，李密就開始了漫長的逃亡之路。一開始他從小道逃亡，結果因告密而被捕囚禁在長安，後因隋煬帝在高陽，要將其押往高陽候審。在路上李密表演了一招非常高明的越獄技術，他開始對一同被捕的人說：“我們的性命就像早晨的露水那樣，如果到了高陽必然變成滅亡，現在在路上還有法子可想，決不能受人屠戮！”當時這些人身上還有不少錢，於是李密就讓他們拿出來賄賂押送的官差，聲稱希望他們拿這些錢替他們收屍，餘錢就作為報答。官差以為李密等人已經認命，於是防備漸漸鬆弛。李密又買來酒食，天天晚上宴飲，整夜喧嘩。當官差對他們的行為都習以為常之後，李密等七個人在邯鄲抓住一個機會越牆而逃，勝利大逃亡。之後李密投奔了平原賊帥郝孝德，希望能夠容身，誰知道郝孝德根本瞧不上他，連頓飯都不管，搞到後來李密隻能吃樹皮充饑。這種地方怎麼能繼續待下去，他隻能繼續流浪。到了淮陽的鄉村後，他改名叫劉智遠，當了一個教書先生。可是他並不安生，不好好教書，偏偏如宋江一般寫反詩，結果被有心人告發，隻能又逃到他的妹夫雍丘縣令丘君明的家，誰知又被丘君明的侄子懷義告發。李密不管逃到哪裏都遭人告發，簡直走投無路。不過這次告密依然沒能抓到李密，隻是害得他的妹夫丘君明受牽連而死。經此一事，李密知道想大隱隱於市是完全不可能了，隻能再次投奔絕對不會把他拿送官府的“賊軍”。