不過，歡慶過後，李淵又清醒地意識到新的威脅已經擺在自己麵前，他必須想辦法將它消除了。這個威脅來自定楊可汗劉武周。
劉武周自計殺馬邑太守王仁恭舉兵起事以來，就沒有停止過擴張的軍事行動。他清楚以自己的實力是很難達到目的，因此他當機立斷，遣使向突厥稱臣，以獲取突厥的援助。始畢可汗很欣賞劉武周，同時也想利用他對付李淵，所以就痛痛快快地接受了劉武周借兵的要求。劉武周從始畢可汗手中得到幾萬突厥鐵騎，如虎添翼般壯大了實力。於是他便率軍四處攻城掠地，先後占領了雁門、樓煩、定襄等郡。
武德二年三月，剛剛承繼了突厥汗位的俟弗利設處羅可汗為了進一步拉攏劉武周這一地方割據勢力，便冊立劉武周為定楊可汗，支持他稱帝建國。劉武周得到處羅可汗的鼎力相助，就在攻占定襄後自稱皇帝，建元“天興”，以鄯陽為都城。同時，立其妻沮氏為皇後，以衛士楊伏念為左仆射，妹婿苑君璋苑為內史令，初步完成了政權的建立。接著，他便圖謀開疆擴土，決定率軍南下以爭天下。
恰好這時，易州義軍首領宋金剛被竇建德打敗，無路可走，便率餘部四千餘人馬前來投靠劉武周。劉武周早就聽說宋金剛極善用兵，是位智勇雙全的傑出將帥，對他的加盟自然是求之不得。為了表達自己對宋金剛的厚愛與器重，劉武周封他為宋王，與他平分自己的家財，並將自己的妹妹許配給他。如此一來，宋金剛就成了定楊政權最主要的軍事將領。
宋金剛見劉武周如此恩寵自己，十分感動，決定為他竭忠效命。於是，很快他就給劉武周獻計獻策，勸他立即起兵攻打晉陽，爭奪天下。此計與劉武周不謀而合，因此劉武周當下就采納了宋金剛的建議，並任命他為西南道大行台，率領三萬兵馬攻打並州。同時，劉武周又向處羅可汗發出請求，向他借兵馬助自己奪取太原。不幾日，突厥大將阿史那忠就引兵前來善陽，與宋金剛會合。
劉武周見兵馬已齊備，擇了個黃道吉日，於點將台前慷慨激昂地作了番戰前動員令。然後，他一聲令下，千軍萬馬浩浩蕩蕩奔赴並州。
幾天後，定楊軍便到達了黃蛇嶺。劉武周與宋金剛等將佐一道察看了番地形，然後命令部隊依山安營紮寨，以待唐軍。
並州總管、齊王李元吉從探馬那兒獲知劉武周屯兵黃蛇嶺，將攻打榆次，直入太原，心裏不免有些驚慌。他當即就召集竇誕、宇文歆、劉政會、張達等將佐一道商討禦敵之事。眾人神色不安地望著坐在首位的齊王，一言不發。他們不是胸無計策，而是不敢暢所欲言，生怕自己的言詞不合齊王的心而平白遭受他的斥責。他們都一直跟隨齊王，了解他的性情，知道他是一個脾氣暴躁而又剛愎自用的人，很難聽得進別人的意見。正因為如此，他們早已養成了一種不敢貿然進諫而隻管坐待齊王命令的習慣。
李元吉平日也喜歡屬下這樣安分守己，這不僅可以省去不少爭執的麻煩，而且也能夠充分顯示自己的權威與才幹。然而今天，他看見在座諸位隻麵麵相覷而不吭一聲，氣就不打一處來。他臉色一沉，不滿地對屬下說：
“本王請大家來不是幹坐著，而是要為我出謀劃策。現在劉武周來勢洶洶，犯我大唐邊境，你們有何禦敵良策，請說出來吧！”
話音已落兩分鍾，廳內依然一處鴉雀無聲。眾將佐你看看我我看看你，隻管蠕動著嘴唇，可就是不說半個字兒。這令李元吉益發不高興，他板著張麵孔，拿眼直瞪他們。過了會兒，他把目光移到宇文歆臉上，沒好氣地問道：
“宇文歆，本王空閑之時出去打打獵，散散心，你就叨嘮個沒完沒了，如今兵臨城下，你倒是沉得住氣，嘴巴閉得緊緊的，一個字不說，哼！”
“齊王，不是在下不肯說，是，是怕您……”宇文歆抬眼瞅見李元吉麵色相當難看，就欲言又止，不敢往下說了。
“別吞吞吐吐的好不好，有什麼話就直說，聽到沒有！”李元吉瞪了眼宇文歆，不耐煩地說句。
“是，齊王！在下若有什麼不妥之處，還請您見諒。”宇文歆揖禮答句，沉吟片刻，他接著又建議道，“今劉武周率軍進犯榆次，在下以為齊王當親率軍前往抵敵。”
“什麼？”李元吉驚得直瞪大眼睛，提高聲音對眾人說，“就劉武周那群烏合之眾，還用得著本王親自掛帥？這，這也太小題大做了吧！”