瓦崗軍的首領翟讓，原來在東郡衙門裏當差，因為得罪了上司，被關進了監牢，還被判了死罪。有個獄吏很同情他，在一天夜裏，獄吏偷偷地給翟讓解下鐐銬，把翟讓放了。
翟讓出了監牢，逃到東郡附近的瓦崗寨，招集了一些貧苦農民，組織了一支隊伍，當地一些青年人聽到消息後，都來投奔他。這些人中有一個17歲的青年叫徐世，不但武藝高強，而且很有謀略。
翟讓聽從徐世的意見，帶領農民軍到滎陽一帶，打擊官府和富商，奪了大批錢糧。附近農民來投奔翟讓的越來越多，隊伍很快壯大到一萬多人。
這時，有一個叫李密的青年前來投奔翟讓，並且幫助他整頓人馬。
李密對翟讓說：“從前劉邦、項羽，也不過是普通老百姓，後來推翻了秦朝。現在皇上昏庸殘暴，民怨沸騰，官軍大部分又遠在遼東。您手下兵精糧足，要拿下東都和長安，打倒暴君，是很容易辦到的事！”
接著，兩人商量了一番，決定先攻打榮陽。滎陽太守見事不妙，慌忙向隋煬帝告急。隋煬帝派大將張須陀帶大軍前來鎮壓起義軍。
李密請翟讓在正麵迎擊敵人，他自己帶了1000人馬埋伏在滎陽大海寺北麵的密林裏。
張須陀根本沒把翟讓放在眼裏，莽莽撞撞地指揮人馬殺奔過來。翟讓抵擋了一陣，假裝敗退。張須陀緊緊在後麵追趕，追了十多裏，路越來越窄，樹林越來越密，進入了李密布置的埋伏圈。李密見敵軍到了，一聲令下，埋伏著的瓦崗軍將士奮勇殺出，把張須陀的人馬團團圍住。張須陀左衝右突，沒法突圍，最後全軍覆沒。張須陀也被起義軍殺死了。
經過這次戰鬥，李密在瓦崗軍裏聲望提高了。李密不但號令嚴明，而且生活儉樸，對起義將士也十分關心。日子一久，將士們就漸漸傾向他了。
後來，翟讓覺得自己的才能不如李密，就把首領的位子讓給了李密。大家推李密為魏公，兼任起義軍元帥。瓦崗軍在洛口建立了自己的政權。不久，又乘勝攻下許多郡縣，隋朝官吏士兵都紛紛前來投降。瓦崗軍一麵繼續圍攻東都，一麵發出討伐隋煬帝的檄文，曆數煬帝的罪惡，號召百姓起來推翻隋王朝的統治。這樣一來，震動了整個中原。
正當瓦崗軍不斷發展壯大的時候，它的內部卻發生了嚴重分裂。翟讓讓位給李密後，翟讓手下有些將領很不滿意。有人勸翟讓把權奪回來，翟讓卻總是一笑了之。這些話傳到李密耳朵裏，李密就心生疑慮了。李密的部下也攛掇他把翟讓除掉。李密為保住自己的地位，終於起了殺心。
有一天，李密請翟讓喝酒。在宴會中，李密把翟讓的兵土支開後，假意拿出一把好弓給翟讓，請他試射。翟讓剛拉開弓，李密便暗示埋伏好的刀斧手動手，把翟讓殺了。
從此，瓦崗軍開始走向衰弱了。這時，北方由李淵帶領的一支反隋軍卻日益強大起來。