與此同時，李淵的另一個女婿段綸也在藍田發動起義，聚集一萬餘人，與關中道軍遙相呼應。
不久，李淵領軍進入關中，聽說女兒李鳳嬌、堂弟李神通、女婿段綸的情況之後，非常高興，說道：“俗話說：打仗最好親兄弟，上陣還是父子兵，有了他們三支軍隊在關內的響應，攻占長安就更加輕而易舉了。”
李世民渡過黃河以後，沿著渭河北岸西進，一路不斷地收降大批小股的反隋隊伍，到達徑陽時，隊伍已達到九萬多人。
兵到隰城（今山西隰縣，當時是西河郡治所），縣尉房玄齡主動來投靠，被李世民引為謀主，任命為記室參軍。
平涼人賀廣清率起義軍數萬人，圍困扶風城，太守竇進帶領守城軍隊堅守，一連數十天攻不下來，起義軍糧草已經用完，快要撤走時，當地豪傑丘師利派其弟丘行恭帶領五百人挑糧擔酒，送往義軍營地，趁賀廣清長揖致謝時，丘行恭抽刀將其殺死，然後大聲對義軍說道：“各位都是善良的百姓，賀廣清當上首領之後胡作非為，跟貪官汙吏一樣，不能跟著他去作強盜！”
義軍將士聽後，齊聲說道：“我們願意聽從指揮！”
丘行恭又說道：“李淵的唐軍是仁義之師，從不擾民，我們去投奔唐軍去！”
全軍人員又一起喊道：“投奔唐軍！投奔唐軍！”
丘行恭馬上帶領這支義軍隊伍，趕赴渭北，投奔在那裏的李世民，被封為光祿大夫。
此時，李世民與其叔父李神通、姐姐李鳳嬌、妹夫段綸的三支軍隊會合之後，軍隊已達十三萬人之眾，聲勢更加浩大。
不久，李世民又率軍攻下武功、周至等地，李淵派人送來封賞命令：封李神通為光祿大夫，其子李道彥為朝清大夫，段綸為金紫光祿大夫，對何潘仁、李仲文、向善誌，以及史萬寶、裴勳等各路義軍首領，一一慰勞授官，其軍隊統歸李世民指揮。
李淵又派柴紹帶領數百輕騎去迎接李鳳嬌，並對娘子軍大加讚賞，說它“是關中大地上的一支勁旅”。
為了攻打扶風城，李淵派人傳來命令，讓劉弘基、殷開山領一萬人馬，務須攻下扶風。
這座扶風（今陝西鳳翔縣）城，位置相當重要。當時，薛舉已在緊連扶風的隴西郡舉兵反隋，大有東取長安之勢。攻下扶風，就等於有了西拒薛舉的戰略關隘。
因此，劉弘基、殷開山帶領軍隊出發前，李淵對他們說道：“扶風城緊靠著長安所在的京兆郡，是其兩麵的重要門戶，據之則可免使長安在日後遭遇直接攻擊，還可以作為攻打薛舉的第一座堡壘。”
殷開山立即說道：“我們一定竭盡全力，盡快攻下這座位置相當重要的扶風城。”
不久前，賀廣清的起義軍沒有攻下扶風城，太守竇進見唐軍又來攻打，便對部下說道：“唐軍是李淵的隊伍，比前次厲害，要加倍小心守城，打退了唐軍，我有重賞。”
由於城牆堅固，城內糧草充足，加上竇進老奸巨猾，若想強攻，確實不易。
殷開山、劉弘基將一萬人馬駐紮下來之後，即前往扶風城東一個黃土高坡上察看地形，劉弘基說：“竇進的戰術就是死守堅城，我們若想速戰速決，恐難成功。”
殷開山說道：“竇進憑借城牆堅固，糧草充足，我們就想辦法智取。”
說到這裏，他指著城牆對劉弘基說：“看到沒，這城牆全是用大石塊壘疊砌成，雖然堅固，但是也有弱點，我們可以利用這弱點呀！”
劉弘基想了一會兒，恍然大悟道：“你是想派兵士在夜間爬上城去偷襲嗎？”
殷開山笑著點點頭，又說：“那些大石塊之間的縫口又大又深，易於攀爬。”
劉弘基忽然說道：“為了提高效率，還可以借著攻城，采用調虎離山計策，迷惑敵人。”
二人一行察看地形，一路分析敵情，議定了攻城之法，回到營裏，便開始行動。
殷開山說道：“從軍中挑選出勇武矯捷的兵士四百人，今夜三更時分行動，由我親自帶領偷襲南門。”
劉弘基說道：“我帶領五千人馬攻打北門，以吸引守軍的注意，也可減輕南門的壓力。”
殷開山又對參軍吳偉說道：“其餘人馬歸你統領，可以潛伏在南門外麵，見到南門一開，你便帶領隊伍迅速衝進城去，便可活捉那位竇太守了！”
三人商議之後，各自分頭準備去了。
也是天公助美，這一夜天氣陰沉，月色無光，三更過後，到處漆黑一片，對麵不見人影。
劉弘基帶領五千兵馬來到北門，首先開始了攻城。因為夜深人靜，呐喊聲更加響亮，驚得城上的守軍一片混亂，急急忙忙登城防禦。
在南門，殷開山早已領著四百驍勇健卒，悄悄來到城牆腳下，開始了艱難的爬城行動。
果不出所料，那些其大如鬥的石塊，裂縫既大又深，確實易於抓攀。加上北門攻城激烈，城上守軍的注意力已分散不少，爬上城頭就更加容易了。
不到半個時辰，已有數十名士卒爬上城頭，立即與城上的守軍展開了廝殺，這就為後麵的士卒爬城提供了更為有利的條件。
當四百名勇悍的士卒全部登上城去，南門守軍早被殺得七零八落，剩下的隻得四下裏逃去，殷開山立即指揮那些士卒打開城門，讓大軍進城。
南門被打開以後，其餘三門守軍已無心拚殺，紛紛逃去，吳偉帶領人馬衝進城內，先去攻占東、北、西三個城門，守軍見大勢已去，大部分放下兵器投降了。
那位太守竇進聽說唐軍進城了，便自盡而死。
次日，殷開山、劉弘基留下參軍吳偉帶領五千人馬守扶風城，二人回師向南渡過渭水，駐紮在長安故城，從西北方向威脅長安。
李世民接到攻下扶風城的戰報之後，率領軍隊南渡黃河，攻占渭南縣，進駐阿城（今西安以西一帶，原秦阿房宮城），東向威脅長安，屯兵十三萬。
此時，李世民軍中的謀士房玄齡向他建議道：“現在可以派人去向唐公稟報我軍的戰績，並且請求約定攻打長安的確切日期了。”
李世民一聽，按捺不住興奮的心情，說道：“說得對，這將是奪取關中的最後一戰，也是最重要的一戰！”
說完，立即讓房玄齡起草報告，派人送給父親。
此時，孤守河東的屈突通聽說李淵的大軍已經西行入關，不得不暗中喟歎道：“隋氏當滅，李唐將興，我將何往？”
苦熬了一夜，次日淩晨，屈突通終於做出決定：“必須最後一搏，以報隋家兩代皇帝的知遇之恩。”
於是，屈突通任命鷹揚郎將堯君素代理河東駐守，令其堅守蒲板城（即河東治所）。然後，屈突通親自率領三萬人馬，趕赴長安，但是兵至新封（今陝西新豐鎮）附近，前鋒來報告道：“前有一支唐軍擋住大軍去路。”
屈突通問道：“唐軍有多少人馬？主將是誰？”
“黑壓壓一大片，總有兩三萬！聽說主將是劉文靜。”
屈突通歎了一口氣道：“李淵果然用兵以謀，有進有守，我縱有插翅能力，也難飛越過去！”
新封走不通，屈突通改變行軍路線，又領兵折向潼關，心說：占領潼關，也是一步好棋。但是，剛走了十幾裏路，前鋒又來報告說：“去潼關的路已被唐軍守住，我軍無法通過。”屈突通大驚道：“潼關不是由劉鋼戍守著嗎？”那前鋒忙報告：“劉鋼幾日前已被唐軍斬首，潼關也隨之失守。”屈突通暗自嗟歎道：“我本想與劉鋼會合，尚有援助長安的可能，如今潼關也被李淵奪去，我孤掌難鳴，如何如何……”
李淵得知屈突通的軍隊動向之後，大喜道：“屈突通妄想西援長安，已經不可能了：他隻好向東進軍，前去援救東都洛陽，他已不可能再帶兵向西進攻了。”
說完之後，樂滋滋地喝了口茶，接著對身邊的陳叔達等人說：“少了這支強勁的對手，我們的大軍就可以放心大膽地向長安大步邁進！”
陳叔達恭維說：“現在回過頭來，再看過河前的那次爭論，足見唐公謀略過人，用兵穩紮穩打，始終立於不敗之地！”
李淵聽了，笑道：“確實如此！如今雖然沒有攻下長安，但是，它已是囊中之物了。想來，這兵分兩路的戰術，確是走對了啊！”
李淵不想把下邊的話全說出來：若不是兵分兩路，單取世民之策，必將腹背受敵，不能安心攻打長安；如果獨用裴寂之計，大軍必然滯留河東，耗費了兵力，錯過了戰機，這西京長安又怎能如此輕而易舉地到手呢！
李淵越想越得意，加上次子世民在西進路上連續獲勝的捷報頻頻傳來，掩飾不住喜悅的心情，大聲說道：“曾經設想對長安的包圍，已經是指日可待了！”