秦王李世民跨著矯健善走的“拳毛騧”，統帥他和齊王元吉麾下五萬多兵馬，踏著隆冬的積雪，東出潼關，在除夕這天到達東都洛陽。洛陽現在全都是秦王的部屬：任陝東道大行台右仆射的屈突通，就鎮守在洛陽；淮陽王李道玄，現在是洛州總管。秦王再度返回東都，正值新春佳節，自然軍民歡呼雀躍，受到行台、州府、縣衙各級政府機關殷勤接待。在洛陽度過除夕，過了正月初三，便從洛陽橫渡黃河，朝義軍劉黑闥的都城洺州進發。
斯時，劉黑闥已自稱漢東王，改元天造，定都洺州。這也是義軍領袖竇建德稱王定都的地方。
當初竇建德在虎牢一役幾乎全軍覆滅，十萬大軍砍殺三千，俘擄五萬，剩下的幾萬人作鳥獸散，紛紛逃往河北、山東老家。敗軍之將多盜匿庫物，回到閭裏，仍與官府對抗，惹禍滋事。唐地方官吏奉旨嚴查峻法，或酷刑鞭笞，或枉殺不赦。竇部故將高雅賢、王小胡，家在洺州府城。本欲攜家眷外逃，官吏四處搜捕，逼使他們亡命逃到貝州，會合另幾名義軍頭領範願、董康買、曹湛等，在貝州一酒肆喝酒盟誓，決定搜羅義軍餘眾，再次起事，為竇建德報仇。
高雅賢高舉著酒碗，大義凜然地道：
“王世充以洛陽降唐，其將相大臣段達、單雄信等數十人被斬，我儕倘被捕捉長安，必死無疑。十餘年來，身經百戰，九死一生，今天誰還惜此餘生？當年夏王俘淮安王李神通，以禮相待；今唐得夏王，即斬首棄市。我等深受夏王恩惠，現在不為夏王報仇，還有何麵貌見天下之士？反了――我們反了吧！”
“反了――反了――”
十幾條粗壯的臂膀高舉起來，酒碗裏的老酒咕嘟咕嘟灌了下去，砰砰砰，藍花大海碗摔碎一地。
於是合謀作亂，請高人筮卜，得“劉氏為吉”。他們商議妥當，一齊來到漳南，準備共推竇建德故將劉雅為主帥。可是劉雅聽過他們的起義計劃以後，婉拒地道：
“天下剛剛安定，我不想再起兵塗炭生靈，我勸你們都回家去，老於耕桑做一田舍郎吧！”
眾人大怒，惟恐劉雅泄露密謀，幹脆把他殺了。竇部故漢東郡公劉黑闥，性嗜酒，粗豪尚武，是竇建德少年時的密友。頗有謀略，在竇軍中，常出奇兵，無堅不摧，號為神勇將軍。當時，正好劉黑闥隱匿在漳南郊外，以種菜為生。聽到這個消息，範願喜興地說：“漢東公果敢多奇謀，寬仁容眾，恩結士卒。我們要收夏王餘眾，圖謀大事，非推劉黑闥為王不可！”他們尋了去，說了合謀計劃，一拍即合。於是共舉劉黑闥為首領，聚合了一百多名舊部，宰牛置酒，歃血盟誓，當天就攻占漳南縣府，宣告起義。
劉黑闥起事的消息傳到長安，唐皇命淮安王李神通為山東道行台右仆射，鎮守洺州，兼領魏、冀、定、滄各州，並置總管府，以圖扼殺竇建德殘部屑小之徒的再次鬧事。
然而竇建德數萬舊部隱匿民間，未得安撫；且隋末唐初，河北山東一帶，已是赤地千裏，民不聊生。文帝時，全國八百多萬戶，約四千多萬人口，倉盈充足，物資豐裕，是曆朝以來國庫最富足的時代。經過煬帝短短十多年的折騰和連年戰禍，全國人口被戰死、屠殺、餓死的超過了一半。唐皇李淵、秦王世民此時采取的征剿殺伐，嚴刑峻法的高壓政策，並不能壓服熬熬待哺的饑民，隻能激化矛盾。夏王殺富濟貧，開倉放糧的記憶猶新，現在劉黑闥重張義旗，自然得到走投無路的饑民熱烈擁護，重新走上“官逼民反”的道路。
劉黑闥義軍迅速攻陷山東鄃縣、魏州、貝州，如一團烈火，所到之處驟成星火燎原，唐室任命的魏、貝二州剌史均戰敗身死。劉黑闥悉收餘眾及器械，竇部舊人來歸，義軍迅速發展到二千多人。他們在漳南築壇祭奠竇建德，仍然打著竇建德農民義軍的旗號，告以舉兵複仇之意，劉黑闥自稱大將軍。
兗州總管徐圓朗，本是竇建德舊部，降唐以後，封魯郡公。聞聽劉黑闥起兵，陰與通謀，將唐皇派來安撫河南的盛彥師拘捕，舉兵宣告反唐。劉黑闥以徐圓朗為大行台元帥，一時間，兗、鄆、陳、杞、伊、洛、曹、戴等八州豪傑舊部紛紛響應。
徐圓朗厚待盛彥師，讓他修書給做虞城縣令的弟弟，要他舉虞城降義軍。盛彥師給他弟弟的書信是這樣寫的：
吾奉使無狀，為賊所擒，為臣不忠，誓之以死；汝善
待老母，勿以吾為念。
徐圓朗看了書信，勃然大怒，而盛彥師神色自若。徐圓朗愣了好一陣，壓住火氣，強笑著說：
“盛將軍如此壯節，我徐某不會殺你。”
因此對盛彥師待之如舊。徐圓朗連陷楚丘、濟州，自稱魯王。原深州剌史崔元遜，是竇建德的舊部，竇敗，唐室任命裴晞為深州剌史。聞劉黑闥、徐圓朗重張義旗，崔元遜與數十名黨羽合謀，在田野上弄了一輛馬車，將甲士藏匿車中，上麵以禾捆覆蓋。他們偽裝成農夫，去府衙擊鼓告狀。待裴剌史升堂，甲士從禾捆中一湧而出，將裴晞殺了，把腦袋送給劉黑闥，崔元遜一夥重新投入了義軍。
受命為山東道行台右仆射淮安王的李神通，與李藝合兵，悉發邢、洺、相、魏、恒、趙等州兵馬共五萬餘眾，在饒陽城南布陣十餘裏，與劉黑闥決戰。當時劉黑闥不到一萬人，在大堤上單行布陣，阻擋淮安王的進攻。驟然大風雪陡起烏雲狂奔，李神通乘風雪擊之，劉黑闥兵卒眼前一片灰蒙，眼看不敵；驀然風雪轉向，直朝唐軍襲來，李神通兵馬大敗，死傷近三萬人。李藝退保槁城，亦被擊敗，部將薛萬均、萬徹被劉軍生擒活捉，截發逐回，李藝引兵退守幽州。劉黑闥兵勢大震，乘勝追擊，攻陷定州，活捉李神通。
劉黑闥愛才，欲拜李神通為大將。李神通不授，劉的部將送酒肉為他壓驚，神通感激地說：
“諸君同情李某幽辱，謝謝你們以酒肉相慰，我當為感謝諸君美意，一醉方休！”
酒酣，對守衛者感激涕淋地道：
“李某擅長舞劍，願假以寶劍，為君一舞。”
守衛的人解下佩劍給他，他一邊舞劍，一邊仰天長呼：
“大丈夫受國厚恩，鎮撫一方，不能保全所守，還有什麼麵貌苟活在世上呢？”
遂引劍剌腹，被守衛者止住。劉黑闥感奇李神通的豪壯，並不為難他，將他釋放……
擊敗李神通、李藝，劉黑闥接著攻克冀州，殺剌史麹祾。趙、魏竇建德舊部，盡殺唐地方官吏投奔義軍，義軍兵馬驟增，達數萬之眾。劉黑闥移兵進逼宗城，黎州總管李世勣原先屯兵宗城，棄城走保洺州。就在武德四年臘月，劉黑闥襲擊李世勣，大破唐軍，殺步卒五千人，李世勣以身幸免。洺州土豪翻城響應義軍，劉黑闥在城南築壇，祭告天地社稷及夏王竇建德，而後入城。接著攻拔相州，俘剌史房晃，右武衛將軍張士貴逃走。再南取黎、衛二州，克邢州、趙州、魏州，殺總管潘道毅，陷莘州……不到半年時間，盡複夏王所轄舊境。
劉黑闥自稱漢東王，改元天造，定都洺州。以範願為左仆射，董康買為兵部尚書，高雅賢右領軍，徵王琮為中書令，劉斌為中書侍郎，竇建德時文武大臣悉複本位。
義軍設法行政，悉師竇氏，而作戰勇決大勝於前。
秦王李世民就是在這種嚴峻的形勢下，再次統兵東征的。武德五年正月上旬，秦王兵至獲嘉，劉黑闥聞訊，放棄相州，退守洺州。李世民克複相州，進軍肥鄉，列營洺水之上以逼義軍。斯時，幽州總管李藝率步兵數萬增援秦王世民，討伐劉黑闥。劉黑闥聞訊，留兵萬人，使範願守洺州，自己統兵拒李藝援兵。