霍邑是賈胡堡東南五十裏地的重要據點，由虎牙郎將宋老生把守。前不久，留鎮京師的代王楊侑聽說李淵造反，便派遣他領兩萬精兵先屯賈胡堡，後退守霍邑。另派左武侯大將軍屈突通率數萬驍果營將士屯河東，想要阻住李淵南下的步伐。
以疲弊新集之師，迎戰這兩個硬茬，大多數人感到確實沒什麼把握，因此都讚許裴寂的說法。李世民卻針鋒相對：“劉武周心高氣傲，突厥少信而貪利，二者雖一時苟合，必相猜忌，爭奪馬邑的控製權，有什麼閑心來管我們的事？且夏秋之交，豆稻遍野，何愁沒有糧源？宋老生性格輕躁，更是一戰可擒！”
李建成對弟弟的分析也表示讚成，李淵沉默不語，隻聽得李世民接著又說：“返回太原守著一座孤城，那不成了賊頭了，和那些巨盜逆賊有何區別？”
這話估計是說得重了點，李淵的臉色立刻變得難看起來。他一言不發，傳令部將沈叔安等人帶領左軍先行返回，其餘人等就地紮營。然後，他走進主帥大帳，當天再也沒找李世民說話。
晚上，軍帳中一燈如豆，伴著無情的雨聲，頗有一絲淒清況味。李淵坐在軍毯上，手拿一卷書，翻了幾頁卻怎麼也讀不下去。他的思緒，或者說愁緒，隨風飄出很遠。
前些天，他再次派劉文靜到突厥處請求援兵，可劉文靜人還沒回來，謠言先回來了，說突厥人封劉武周為定楊可汗，將與其聯合乘虛襲擊晉陽。李淵想：不知道元吉一個人能支撐多久，而心思活泛、急於建功的劉文靜，會不會趁機投靠勢大的突厥？
而他想招撫李密的計劃也破滅了。梟雄李密此時已經成為瓦崗軍的最高領導人，自稱魏公，傲然有窺天下誌。饒是李淵在信中把共建基業的前景說得天花亂墜，又死命地跟人家攀本家關係，可李密哪是幾封信就能招來的人啊。人家心心念念要效仿楚霸王，做天下諸侯的盟主。一番討價還價，互相試探的通信，以李淵表示“欣戴大弟（指李密），攀鱗附翼”告終，意思是你當頭，我附和你，這麼換來了李密對李淵西進長安的不幹涉態度。
我隴西李氏，西涼後人，在這場群雄紛爭中究竟能走多遠？長安，此刻看起來是那麼地遙不可及。
不知不覺，一陣陣哭聲傳入李淵耳中，聽著撕心裂肺，音量也越來越大，將他拉回了現實。
誰在哭啊？李淵心下奇怪，撩起門簾往外一看，黑魆魆的夜幕下，一個人正跪在軍門外麵哭呢。
這不是世民嗎？大小夥子哭什麼呀？
李淵趕緊招呼兒子入帳，仔細詢問情由。世民說：“兒子思前想後，大軍是萬萬不能走回頭路啊。現下士卒新募，人心不穩。眾人跟著李家，憑的就是一鼓作氣的熱乎勁。勞而無功地來回折騰幾次，人心就涼了啊。士卒離散不可避免，軍破人亡就在眼前，所以我心裏悲傷難耐。”
聽兒子這麼一說，李淵突然醒悟過來，是啊，自己射了一輩子箭，而開弓，何曾有過回頭箭？
李淵歎了口氣，說：“起事的是你，成敗也都在你了。可左軍這大半日已經走出很遠了吧，怎麼辦？”
還能怎麼辦？追啊！
建成和世民騎上快馬，連夜出發，分頭追趕左軍。
時至午夜，大雨一點沒有停止的意思。天地間一片黑暗，河穀之內的亂樹高草，仿佛都成了迷宮的圍牆。李世民拚命打馬，卻怎麼也找不到通暢的道路。
不多時，馬兒喘著粗氣，口角吐出白沫，眼見是累壞了。李世民急忙翻身下馬，伏在地上仔細辨認了一會兒地上依稀的人跡，找準方向，向北奔跑起來。淩晨時分，他看到遠處的地平線上晃動著一隊人影，那正是沈叔安等人所帶的左軍。
老天保佑！到底給我追上了。
李世民帶領左軍重回大營時，李淵已經整裝待發，等候多時了。
三軍齊集，進軍！
天亮之時，李淵父子開到了霍邑城下。
霍邑，是汾河穀地的最後一道咽喉，衝破了它，就可以南渡黃河，長驅而入一馬平川的渭河平原了。
實際上，宋老生看起來並不太輕躁，起碼一開始是這樣。接到李淵軍逼近城下的探報，他當即決定固守不出，以老對方之兵。
兵法常雲：攻城為下，不得已而為之。
宋老生大約也是讀過兵書的，因此他的直覺反應也是教科書式的，逼著李淵開展攻城戰。
李淵有些擔心，建成、世民則胸有成竹地說：“放心，宋老生是有勇無謀之輩。如果他固守不戰，咱們就放出風聲，說他與我軍暗通款曲。他怕皇上起疑，哪敢不出戰？且讓我去挑逗他一下！”
李世民帶上幾十輕騎，直至城下，舉起馬鞭，對著城頭指指點點，好像在勘察情況，部署圍城。
宋老生聽聞，跑到城頭察看，沒想到他一露頭，城下幾十敵兵就指著他的鼻子破口大罵，估計把宋家祖宗十八代都問候了一遍：你要是條漢子，就出城迎敵，不然，明天我們就送你一麵縮頭烏龜的錦旗！
宋老生登時大怒，下令主力軍分成兩部，分別從東門、南門出城列陣，準備痛擊城外這群胡言亂語的王八蛋。
李淵見狀心中一喜：很好，就怕你不出來。
李世民歸隊後，李家軍立刻分兵兩路，一路由李淵和李建成統領，列陣於霍邑東門外；另一路由世民和柴紹統領，奔其南門。
東門外的這支隋軍由宋老生親自統領，他背靠城牆，向李淵和建成發起了猛烈的進攻。之前李淵在分派兵力時，叫殷開山所統領的後軍趕緊埋鍋做飯，讓大家飽食後開戰，而李世民卻擔心戰機流逝，堅持殲敵後再吃飯。
關於打仗之前吃不吃早飯的問題，史上有太多典故了，比方說，“餘姑翦此而朝食”，曾是春秋霸主齊桓公的孫子齊頃公，在齊晉鞌之戰中說過的豪言壯語。結果，齊頃公被晉軍繞著“華不注”山追擊了三圈，差點沒被人逮走。後世效仿此戰術的將領們，也是勝敗參半。
令人慶幸的是，這一次情況並沒變得太壞。
衝鋒在前的李建成首先中箭落馬，李淵窘迫之中，帶領部隊稍稍退卻，李世民趕緊率領幾百名敢死隊員，自城南的高坡上馳下，從宋老生的後方衝入敵陣。
他兩手操刀，連續擊殺數十名隋兵。砍到最後，刀刃都砍出了豁口，兩袖鮮血淋漓。他甩甩袖子，繼續砍殺！
李淵趁此機會，又殺了個回馬槍，對宋老生進行兩麵夾擊。戰鬥持續了不多久，隋軍已現頹勢，宋老生收拾餘部，想要衝回城中。
出來了，你就別想再回去！
李淵停止追擊，迅速抄近路先行奔著霍邑城而去，來了個李將軍把門。宋老生領幾十名親兵衝回城下，發現根本不可能進城，掉頭就跑。
不知道宋老生是不是昏了頭，他丟棄坐騎，縱身跳入護城壕溝，最後，眼尖的劉弘基找到了伏在溝底的他，手起刀落，收獲了他的人頭。
激戰了一天，暮色四起，李淵沒有休息，命令將士們立即登城。當時軍隊草創，軍備缺乏，連衝車、雲梯等攻城器械也沒有。好在霍邑主力全滅，已是囊中之物，士卒們赤膊登城，沒遭遇什麼像樣的抵抗，便攻占了霍邑。
八月初四打下霍邑，李淵在此地休整了幾天，對參加戰鬥的將士們論功行賞，不論出身，不管原先是良民的也好，是奴隸也好，是逃犯也好。他還接見了城鄉吏民，慰勞賞賜，並趁機在其中揀選可用的壯丁。並許諾老家在關中的軍士，如果想要回鄉，到時候會授予五品散官。
隋煬帝楊廣一貫吝惜官位賞賜，看來李淵決意反其道而行之，他覺得用官職來籠絡眾人，比用武力要有效得多。
四五天後，李淵動身繼續南下，一路尚稱順利，連下臨汾、絳郡二鎮。八月十五中秋節，李家軍開到了龍門。在黃河邊，他們迎來了一位出差很久的重要人物——司馬劉文靜。
劉文靜不是一個人回來的，還帶著突厥大將康鞘利和五百突厥勇士，二千餘匹戰馬。他真是一個做外聯工作和民族工作的好手，號準了始畢可汗的脈，重申李淵立場：如果可汗願意出人馬相助，一入長安，土地、人民歸唐公，金玉繒帛全歸突厥。
突厥人對麵朝黃土背朝天的農業勞作不感興趣，最喜歡財寶、絲帛等值錢的硬通貨，而得到前隋朝唐公的附庸，也讓他感到很有麵子。因此，始畢可汗特別高興，派大臣級失特勒趕路去通知李淵，又讓康鞘利帶著馬匹物資陪劉文靜回去複命。
事實上，在今後幾年時間裏，由於劉文靜工作出色，李淵和他的唐朝都很受突厥人照顧。這是劉文靜的一大政治資本，卻也是他最終失敗的原因。
福兮，禍兮，當時，當事，誰又能說得清呢？
起碼這個時候，李淵見到劉文靜帶來援兵和馬匹，是十分開心的。他對劉文靜說：“我走到黃河，你才帶突厥人來，時間掐得很精準啊。若來早了，前麵城邑見到突厥兵，反而不那麼容易招撫了。而且突厥的援助兵少馬多，十分得體。這可都是你的功勞啊。”
龍門在黃河北—南走向段的東邊，若順河而下，便進入河東郡境內，若先西渡黃河再南下的話，就是長安三輔之一的馮翊郡了（漢代起，京兆連同左馮翊、右扶風，合稱三輔）。
是打黃河西邊的馮翊，還是打黃河東邊的河東呢？
軍中的主流意見是鼓行南下，攻取河東，而新加入的汾陽人薛大鼎卻有不同意見，他覺得應該先抓緊渡河，進入馮翊，拿下華陰的永豐倉。
永豐倉也叫廣通倉，是借廣通河便利的關中附近三大糧倉之一，東邊尚有陝縣的長平倉，再往西便是長安的太倉了。