公元六○四年，隋王朝發生了翻天覆地的變化，處心積慮多年的楊廣將文帝害死於仁壽宮內，登上皇位，為隋煬帝。隋煬帝君臨天下以後，為了穩固自己的統治，全麵捧斥文帝一朝的舊臣，重用自己的親信並發展自己可用之人。隋煬帝發生宮廷政變時，李淵當時在地方任職，對隋朝中央的政治是非了解不多，所以被隋煬帝看成可用之人。隋煬帝將李淵從岐州刺史、滎陽、樓煩二郡太守提為殿內少監，衛尉少卿。
當隋煬帝集大軍遠征遼東時，李淵為大軍督運糧草，駐紮在懷遠鎮。楊玄感在後方起兵造反時，深謀遠慮的李淵權衡形勢後，看出楊玄感起兵肯定成不了大事，於是就及時地向隋煬帝報告了情況，隋煬帝因此認為李淵對自己忠心，是完全可以信任的人。經過此事後，隋煬帝任命李淵為弘化郡（今甘肅慶陽）太守，擁有節度關中隴右諸軍的大權。李淵由此不僅獲得了他在煬帝一朝最高的官職，而且獲得了發展自己實力的絕好機會。
公元六一五年，隋煬帝到太原，夏天到汾陽宮避暑，為保證自身安全，任命李淵做山西、河東撫慰大使，李淵受煬帝命令成功地鎮壓了幾股農民義軍，並且勝利地擊敗了突厥人對邊境的侵犯。第二年，隋煬帝任命李淵為太原留守，在李淵看來，這個任命簡直就是上天恩賜的絕好機會。李淵正是在太原興兵起家，最後滅隋登龍，開創大唐基業的。
四、龍門“王氣”
據史籍記載，隋亡前，有當時的術士幾次對隋煬帝稟奏，龍門地區（今山西河津縣西北、陝西韓城市東北）發現了十分明顯的“天子氣”，氣勢恢宏，一直蔓延到太原。隋煬帝本來就對風水術、望氣術等方術十分相信，而且又深感自己的“大業”江山岌岌可危，所以對術士的稟奏格外重視，他不僅在山西設置了離宮，而且幾次親自巡視汾陽等地，期望能夠靠自己的“天子氣”“鎮壓”住這股“天子氣”。
在煬帝“鎮壓”龍門地區的“天子氣”之後不久，又有術士上書煬帝說，有一李姓者不久之後會當天子。這一上書與太原“天子氣”上書相比要更具體更具有鎮壓的操作性。太原的“天子氣”上書雖然在地理位置上指明了龍門至太原地區，但煬帝在行政上並不能采取什麼具體的措施，除非他將龍門至太原地區的人全部殺光，所以他隻能采取親自巡視的辦法，以期望自己能夠“鎮壓”住“天子氣”。但“李姓者不久會當天子”的上書則能夠讓煬帝采取具體的行政措施，於是煬帝在全國大開殺戒，要將姓李的人全部殺光。一些姓李的高官重臣都沒能逃過此劫，這其中包括在當時極有權勢的李渾及其一族的三十二人都未能幸免。李淵當時也必然是被斬殺的對象，但李淵及其家族能夠在波及全國的屠殺中安然無恙，這與其家族在武川“培植”起來的各種政治關係有著緊密的聯係。
曆史事實證明，隋煬帝鎮壓太原“天子氣”和在全國斬殺李姓之人的這些行為不過是枉費其功罷了，因為正是唐朝的開國皇帝李淵在太原興兵滅掉了隋王朝。
太原所處的地理位置在軍事上自古以來有著不可替代的地理優勢，素有“中原北門”之稱，不僅軍事地位極其重要，而且城池固若金湯，曆來是兵家必爭之地。隋朝末年，當義軍烽火遍及全國之時，黃河下遊以及江淮之間都被義軍控扼之時，除東都洛陽城、西京大興城外，太原晉陽城是隋朝在北方所能控製的最重要的軍事據點了。隋煬帝在去江都之前，對北方這三個對隋朝江山至關重要的軍事要塞做了深思熱慮的部署，煬帝調任越王楊侗留守東都，代王楊侑留守西京，而李淵則留守太原。
對李淵而言，太原得天獨厚的地理條件為他興雄兵建帝業無疑提供了天然的保護屏障，煬帝等於將一塊軍事上的風水寶地拱手讓給李淵。李淵雄踞太原，一方麵可以不斷地囤積糧草，招募士兵，積極地發展自己的軍事實力，他做這一切可以有一個冠冕堂皇的理由，就是為了鎮壓農民義軍和北禦突厥。另一方麵，太原進可攻退可守，從太原可以很方便地對隋大興城——長安以及洛陽這些政治中心發動攻擊，給其致命打擊。如果李淵起兵失敗，他還完全可以以太原為屏障自立為王，並以太原為休養生息之地，養精蓄銳，等兵足馬壯之日再次出擊，可以說主動權完全掌握在李淵手中。再一方麵，太原是防禦突厥進入中原的大門，李淵在自己軍事實力不強大的時候，可以北聯突厥對隋朝進行打擊，等到取得大隋江山，自己軍事實力也大大增加之時，亦可以以太原為屏障將突厥拒之國門之外。曆史證明，李淵也正是按此思路建立自己的帝業的。
公元六一七年，隋朝江山即將土崩瓦解，李淵審時度勢之後決定起兵反隋。李淵以鎮壓農民起義為借口招募到一萬多兵士，於當年五月殺抻煬帝派來監視他的太原副留守王威、高君雅，在太原正式興兵反隋。李淵由於有當地所囤積的大量糧草，所以能迅速積聚兵力向關中挺進。向關中挺進的第一步，必須解決來自北方突厥的後顧之憂，李淵采取了安撫突厥的計策並取得了突厥的支持，解決後顧之憂後，李淵親率大軍由太原向長安挺進，隋西京留守代王楊侑派大將分率關中精兵堅守霍邑（今山西霍州）和河東（今山西水濟西蒲州鎮）兩地，期望能阻擋住李淵的大軍。同年八月，李淵攻下霍邑，以少敷兵力牽製從山西和汾水通往陝南平原這一要道的河東守軍，大軍則渡過黃河，攻占了朝邑（今山西大荔東），這時潼關以內的重鎮華州的州官投奔了李淵，他把永豐倉（今陝西華陰東北）獻給了李淵，李淵分兵扼守澶關，至此，通往隋國都大興城的道路已完全打通。同年十月，號稱二十萬的唐軍在大興城外紮下了營寨，將大興城圍個水泄不通。十一月，李淵攻克了大興城。李淵進入大興城後，立煬帝年幼的孫子楊侑為傀儡皇帝，為隋恭帝。遙遵遠在江都已沒有任何實際作用的煬帝為太上皇，李淵則自稱大丞相、唐王。
公元六一八年二月，李淵對東都洛陽大舉進攻。三月，隋煬帝在江都被殺。五月二十日，在李淵從太原起兵反隋一周年之際，李淵廢黜了傀儡皇帝隋恭帝，自己登基成為皇帝，是為唐高祖，改國號為唐，年號武德，定都長安。中國曆史上的大唐王朝由此登上曆史舞台。