隋煬帝楊廣殺父繼位，成為隋朝的第二代皇帝。登上皇帝寶座以後，隋煬帝本性顯露，對民眾實行殘酷的暴政，激起了天下人的公憤。於是，各地起義軍風起雲湧，其中一支便是太原的李淵家族領導的。
在得知李淵家族反隋的消息以後，隋煬帝深知李淵家族實力雄厚，他不去反思自己的暴政，反而幻想用挖斷李淵家族龍脈的方式來打擊李氏集團，然而，他不僅沒有找到，還落了個死於非命的下場，真是可悲可歎。
李淵起兵以後，他向長安民眾“約法十二條”，除此之外，大隋各項苛刻的法令也都被廢除了。當時，隋大臣陰世師、骨儀等按照凡是犯上作亂者都要發掘他的祖墳、汙辱他的祖先的法令，命令京兆尹尋找李淵的五服祖墓所在地，將其全部挖掘開來，並將屍骨拋在野地裏。李淵對此非常痛心，每一提及必定流淚。
據說陰世師頗懂陰陽風水，在派兵士去挖李淵在河東老家的祖墳那天下午，當兵士剛挖開李淵祖父李虎的墳墓，突然，從中躍出一條碩大的青蛇，蛇身有水桶粗，那蛇高昂起頭，哧哧地呼嘯著衝向兵士們，兵士們紛紛閃開，陰世師揮劍上前，不料蟒蛇吐出一團霧氣，陰世師當時便昏倒在地。當時，在蟒蛇身邊還有大小不一的三條青蛇和二隻金蟾，四散逃避兵士們的趕殺，一隻金蟾跑開了，其餘的則全被隋軍的刀劍殺死了。當李淵的軍隊攻克長安以後，投降的兵士供認了陰世師的惡行，李淵悲憤不已，立即命隴西公李建成把陰世師等人斬殺於朱雀道。
李淵的祖墳被隋煬帝挖掘了，可是隋煬帝並沒有達到打擊李淵家族的目的，更沒有斷掉李家的“王氣”。隨著歲末農民起義軍的不斷興起，大隋王朝最終被李唐所取代。
火燒水灌太原城
公元951年，郭威稱帝，建立後周，趙匡胤任禁軍軍官，周世宗時官至殿前都點檢。周世宗柴榮死後，恭帝即位。建隆元年（公元960年），他以“鎮定二州”的名義，謊報契丹聯合北漢大舉南侵，領兵出征，發動陳橋兵變，黃袍加身，代周稱帝，建立宋朝，定都開封。史稱北宋。宋王朝的建立，結束了自唐末而形成的四分五裂的局麵，使中國又歸於統一並逐漸進入中國經濟、文化、科技的鼎盛時期。唐朝最盛時有五千多萬人口，宋朝人口最盛時突破一億。宋人有曰：“生民以來，能濟登茲者，未有如大宋之隆也。”
在宋朝建立之初，為使宋王朝能長治久安，而不致成為繼五代後的第六個短命王朝，北宋王朝除了製定了一係列的政策方針，大力實施“強幹弱枝”政策之外，還致力於結束五代十國的分裂割據局麵，特別是當宋太宗聽說，當時仍被北漢統治的晉陽出過好幾個皇帝，是個“龍城”之後，更是親自帶兵攻下太原城，並火燒太原城，再水灌太原城……
在2500年的曆史長河中，太原曾經是唐堯故地、戰國名城、太原故國、北朝霸府、天王北都、中原北門、九邊重鎮、晉商故裏……“無端更渡桑幹水，卻望並州是故鄉。”隻要來過太原的人，都會深深地陶醉在它悠久的曆史和燦爛的文化之中。
晉祠正門的匾額太原形勝在晉祠，太原靈脈在晉祠。“叔虞百裏，居之河汾。帝刻桐葉，天書掌文。禮以成德，樂以歌熏。天子無戲，唐有其君。”這是南北朝時期流落北國的大詩人庾信寫的一首《成王刻桐葉讚》。詩中描述的就是曆史上有名的“桐葉封弟”的故事。周成王封叔虞於唐。叔虞施政有方，國富民強。叔虞傳位於其子燮父，燮夫見晉水之源奔流不息，哺育人民，遂改國號為“晉”，這便是晉國的由來。
因為在上古時代，太原曾經是唐堯故國，隋末起兵於太原的李淵、李世民父子奪得天下以後，把新興的國家命名為“大唐”，唐朝成為中國曆史上最繁榮的時期。直到今天旅居海外的華人，都以唐人後裔為榮，甚至把大片華人聚集地命名為“唐人街”。追本溯源，唐文化的發祥地就在山西太原。
太原，是我國北方的文明古城，有著悠久的曆史。“古交舊石器文化遺址”的發現，證明早在十萬年之前就有人類生息、繁衍在太原的土地上。義井和東太堡的“新石器文化遺址”又告訴我們，在七、八千年前的母係氏族公社早期，太原的先民曾創造了燦爛的文化。殷商時太原為古國北唐，考古學家曾在太原許坦村一帶，發現了商代的文化遺址，定名“許坦型文化”。史傳太原的肇始者台駘，因治理汾水、開拓了太原盆地，被尊為“汾水之神”。魯昭公元年（晉平公十七年，公元前541年），晉國荀吳率兵北征，大敗占據今太原一帶地區的無終及赤狄別族咎（音皋）如，太原地區始入於晉國版圖。春秋末期，晉定公十五年（公元前497年）顯赫於世的晉陽古城問世於汾河晉水之畔，迄今已有2500年的曆史。晉陽古城在戰國初期，曾做過趙國的都城72年之久。
秦始皇統一中國後，分天下為36郡，又在這塊古老的土地上設置了太原郡，郡治晉陽。漢代並州刺吏部設治晉陽，這也是太原稱並州之始，太原簡稱“並”亦來源於此。是時，太原已成為全國十三州部治所之一，聞名遐邇。南北朝時，晉陽又是東魏和北齊的“別都”，始終保持著“霸府”的地位，高歡、高洋父子坐鎮太原、遙控朝政。隋代，太原是全國的第三大城市，地位僅次於長安和洛陽。強盛的唐王朝就發祥於太原，因晉陽古有唐國之稱，李淵父子定都長安後，遂以“唐”為國號。唐朝初期的幾位帝王曾數次擴建晉陽城，並相繼封其為“北都”、“北京”，與京都長安、東都洛陽並稱“三都”、“三京”，戰亂頻仍的五代十國，後唐、後晉、後漢、北漢，或發跡於晉陽，或以此為國都，一時間太原名聲顯赫於舉國，傳為“龍城”。