武德二年（六一九），秦王李世民奉命出擊河東，屯兵於柏壁，與宋金剛對峙數月之久，宋金剛軍糧耗盡向北撤退，李世民下令追擊敵軍。武德三年（六二０）四月，追至呂州（今山西霍縣），唐軍大敗尋相，乘勝逐北，一晝夜兼行二百餘裏。行至高壁嶺，總管劉弘基以深入敵後、士兵饑疲勸諫秦王罷兵。李世民沒有采納，抓住戰機統軍繼續追殺。在雀鼠穀，唐軍一天八戰，大敗宋金剛主力軍，殲敵數萬人。夜晚，唐軍宿營於雀鼠穀西原，秦兵兩天沒有吃東西，三天沒解甲休息，軍中隻剩一隻羊，被大家分吃。陝州總管於筠從敵營中逃回後，隨秦王圍困介休。宋金剛尚有殘兵兩萬餘人，背城布陣，與唐軍在西城門外交戰。李世民派總管李世勣正麵迎擊宋金剛，自率精銳騎兵突襲宋金剛的背後，大敗宋軍，殲敵三千人。宋金剛力不能敵，率騎兵逃走。李世民率兵繼續追擊數十裏，到達張難堡。浩州行軍總管樊伯通、張德政據城自守。李世民脫去甲胄，城中的百姓歡喜異常，獻上酒飯。當時尉遲敬德收集敗兵據守介休，李世民派遣任城王李道宗、宇文士及前去勸降。尉遲敬德、尋相率介休、永安二縣降唐。屈突通害怕尉遲敬德生變，勸秦王不要重用他們。李世民沒有聽從，任命尉遲敬德為右一府統軍，仍舊統領舊部八千人，配合唐軍作戰。劉武周聽說宋金剛戰敗，退出並州向北逃入突厥。宋金剛收拾舊部力圖再戰，但部下全無鬥誌，宋金剛也隻得率百人逃入突厥。不久，宋金剛策謀逃往上穀，被突厥追殺。嵐州總管劉六兒跟隨宋金剛在介休，被李世民擒殺。他的哥哥劉季真放棄石州，逃奔劉武周將高滿政，被高滿政殺死。李世民兵至晉陽，劉武周所封仆射楊伏念向李世民獻城。唐儉也封好府庫等待李世民。至此，劉武周掠取的唐河東州縣都被李世民收複。唐高祖聽說並州收複，非常高興。設宴招待群臣，贈以綢緞。恢複唐儉的官爵，仍舊以他為並州道安撫大使，並把籍沒的獨孤懷恩的田宅資財都賜給唐儉。李世民留李仲文鎮守並州，李淵以李仲文檢校並州總管。