同年三月，太宗憑借著名水的險要，以一字的陣勢逼迫劉黑闥，並派遣突襲部隊分道去截斷他的運糧通道。劉黑闥為了速戰速決，多次挑釁。但是，太宗隻是堅守，並不應戰。太宗想通過拖延時間，來挫傷劉黑闥軍隊的士氣。等劉黑闥城裏的糧食用盡，太宗料定他必然要來決戰，於是，先派人去名水上遊，對那裏守堤的官員說：“戰鬥即將開始。當敵人渡到河中間時，你們就挖開堤壩。”果然沒過多久，劉黑闥率領步兵騎兵兩萬人過名水擺陣，欲與唐軍大戰。最後劉黑闥被擊敗了，士兵四處逃散，這時河水又剛好奔湧而來。劉黑闥的人馬過不了河，有上萬名士兵被殺死，上千人被淹死。劉黑闥和範願等帶著一千多人馬趕緊向突厥方向逃亡。山東被平定後，太宗帶領軍隊轉向河南，準備討伐徐圓朗。
同年六月，劉黑闥與突厥聯合，共同向山東進軍。七月，他們到達了定州。劉黑闥原來的將領曹湛、董康買逃到了鮮虞，開始招兵買馬響應劉黑闥。高祖派遣淮陽王李道玄和原國公史萬寶前去鎮壓。於是，兩軍交戰於下博，唐軍最終被擊敗。李道玄戰死沙場，史萬寶也棄甲逃命了。隻用了十天時間，劉黑闥就將原有城鎮全部收複了回來。
同年十一月，齊王李元吉受命攻打劉黑闥，但是李元吉卻故意拖延，遲遲不肯動身。
高祖隻好再任命隱太子李建成去前線督率部隊進軍討伐。大戰幾個回合後，大獲全勝。
武德六年(公元623年)二月，劉黑闥在館陶戰敗，帶領隊伍向北逃跑。李建成和李元吉聯軍，帶領一千多人馬在永濟渠猛烈攻打劉黑闥。劉黑闥大敗，棄甲逃命。
唐軍繼續追殺著劉黑闥，他的軍隊一路奔波逃命，十分疲頓。到了饒陽，隻剩下百餘人馬。大家都十分饑餓，想要進城找些東西吃。此時，由劉黑闥委任的饒州刺史諸葛德威出城相迎，邀請他們進城。剛開始，劉黑闥並沒有答應，但最終被諸葛德威假裝真誠的恭請遮蔽了雙眼。怎料劉黑闥剛走進城門，諸葛德威就下令將其拿下了。劉黑闥被送到李建成手上，不久後被殺死。至此，山東終於太平了。
所謂“道高一尺，魔高一丈”，邪總是沒辦法壓正的。劉黑闥為人奸詐狡猾，心狠手辣，對王仁恭忘恩負義，並圖謀不軌，趁亂稱雄，禍害天下。這樣十惡不赦的奸人，最終必然遭受人頭落地的下場。
逆臣賊子劉武周反叛
劉武周，祖籍河間郡景城縣。後來，跟隨父親劉匡到馬邑縣定居。劉武周很英勇，並且精通騎射技能，但是常常跟不務正業之徒來往。他的哥哥劉山伯知曉後，多次責備他，並告誡他：“你如果再繼續跟那些狐朋狗友交往的話，將來一定會犯下滔天罪行。”劉武周聽後很不高興，離家去了洛陽。
後來，他在太仆卿楊義臣手下任職，並應召入伍征討遼東。其間，他立了戰功，被任命為建節校尉。
衣錦還鄉後，他再次擔任了鷹揚府校尉。當時，河間郡的郡太守王仁恭覺得他是一位傑出的人才，所以，很信任他，並經常宴請他到家中做客，劉武周卻趁機跟王仁恭的侍女私通，事後，他很害怕這件醜事會敗露。
當時，天下已經開始動亂，劉武周看到後，野心萌發。於是，在郡裏四處散布謠言：“現在百姓們都餓得要命，但是官府卻還不開倉濟民，根本不把百姓的生死放在眼裏啊！”謠言很快散布開，民怨四起。劉武周看到民心已經被動搖了，就假裝臥病在床。等到舊時那些狐朋狗友來問候的時候，他煮肉買酒，與那些人大吃大喝，並口出狂言說：“隻有造反，才有好日子過。是英雄好漢的話，更要堅守誌向。即使上刀山，下火海，也應該在所不辭。況且現在倉庫裏堆積的糧食都要爛了，你們誰敢跟我去開倉？”
這班人聽完他的話後，都積極響應。於是，劉武周與張萬歲製訂好計劃準備動手。當王仁恭在處理公務的時候，劉武周假裝上前去稟告事情。這時，張萬歲趁機殺死了王仁恭。劉武周拿著王仁恭的首級到郡城宣傳展示，所有的人都不敢輕舉妄動。於是，他打開糧倉，將糧食分發給了貧苦的老百姓，並發送快報下達給所屬的各個縣，最終大家都決定歸附於他，共聚集了一萬多名士兵。
接著，劉武周自稱為太守，派使者們去拉攏突厥。當時，隋朝的雁門郡丞陳孝意、虎賁將王智辯聯合兵力討伐劉周武，並將其包圍。恰巧，突厥派來大隊人馬前來支援。於是，突厥和劉武周一起打敗了王智辯。陳孝意也敗下陣來，逃回雁門，但不久之後，卻被部下背叛，部下甚至將城獻給了劉武周。