唐彩繪塗金著明光鎧武士俑武德四年，李淵命大將李孝恭和李靖消滅了割據長江中遊江陵的蕭銑（建國號梁、年號鳴鳳）和豫章的林士弘（國號楚、年號太平），既而又經略江淮及東南地區。
李淵蕩平群雄，是以鞏固關中為戰略出發點，首先平定了河隴與河東，穩固了唐朝的根本，然後進兵中原和長江中下遊及周邊地區，到武德七年（624），除了朔方的梁師都（國號梁、年號永隆）依附突厥（始畢可汗封他為大度毗伽可汗，即解事天子）繼續與唐朝作對威脅著關中和長安以外，基本實現了全國統一。應當說，他的兒子李世民在統一戰爭中直接統率大軍，衝鋒陷陣，發揮了極其重要的作用，功績卓著。但是，李淵仍然是統一戰爭的直接部署和籌劃人。他不僅聽取有關前線戰場的情況報告，而且也直接決定戰役的進展。對於不少戰役的作戰意圖與部署，他都有直接的命令。換句話說，李淵是全國統一戰爭的最高指揮者。
李淵曾經對兒子們說過：“皇帝這個位子，可不是誰想坐就可以坐，也不是誰想坐就可以坐穩的。特別是創業之君，更是如此。從來沒有無功而可以得帝王者。我生自公宮，長於貴戚，後來典長州郡，從來都是衣食無憂，笙歌晏樂。過的都是歡娛的日子，饑寒的滋味、下賤的勞役，都是聽見而從來沒有親曆過；艱難險阻是怎麼回事，也都是耳聞而已。”所以要兒子們不能隻知道吃喝享受，要學會曆經苦難、櫛風沐雨，不知懈怠才可以成就帝王的奠基大業。李淵以所謂“霸王之才”，基本完成了統一大業，所以當時對他就有“撥亂之主”的評價。這是他能夠稱為大唐帝國奠基者的重要理由。唐朝的統一，是秦漢以來中國曆史的又一次真正大一統的開始，高祖李淵功不可沒。
革命維新，設令定律國家政治製度方麵，最初基本上是沿用隋朝舊製，並形成了中央以三省六部為主體、地方州縣兩級區劃的行政體製。中書、門下兩省負責詔令的起草和審核，尚書省負責以所轄六部衙門落實執行，三省長官都是宰相。不過，在武德年間，擔任尚書令的李世民因為長期統兵在外，基本上是以專門為他設置的天策上將府和所領的陝東道行台為實體。“隨時署置，務從省便”是這一時期的特色。到武德七年，由於統一戰爭基本結束，國家體製才以“令”的形式固定下來。
建國初，李淵還積極著手法律建設。他令裴寂、劉文靜、殷開山等人在隋《開皇律》的基礎上修訂律令，即《武德律》，重要的思路就是“盡削大業所用煩峻之法”，廢除了隋朝大業年間的酷刑，“務在寬簡”。他後來的繼承者在修訂法律時也基本上是延續了這樣的思路。現存的《唐律疏議》作為我國古代法律的集大成者，被譽為中華法係的代表，其藍本正是《武德律》。
唐“開元通寶”銅錢武德二年二月，初定“租庸調”法，到武德七年又加以完善，規定租賦以外不得橫征暴斂；並且繼承和發展了隋朝的均田製，受田者納稅，不受田者不納稅。武德四年鑄“開元通寶”製式錢幣，“輕重大小最為折中，遠近便之”，這既表示其開國，又統一了貨幣，在貨幣發展史上具有重要意義。
此外，他還興科舉、辦學校，培養和選拔人才。李淵建國後，在天下大亂、百事待舉的形勢下，經過艱苦的工作，在政治、經濟、法律等各方麵進行了製度建設，取得了一定成效。武德七年定令，是唐朝國家體製確立下來的重要標誌。所有這些，不僅逐步實現了在國家製度建設上的撥亂反正，也為他的後繼者太宗的貞觀之治打下了基礎。
鳥盡弓藏，誅殺功臣與曆史上的所有帝王一樣，在維護其政治地位和統治穩定方麵，李淵也暴露出他殘暴專橫的一麵。李淵稱帝後，盡管常常引貴臣共榻而食，與臣下均席而坐，並美其名曰不忘“宿昔之好”，但他一時一刻也不曾忽視對大臣的防範。
武德二年（619）二月誅殺劉文靜一事就很能說明這一點。
劉文靜是隋末唐初的風雲人物，為李淵建國立下汗馬功勞。劉文靜與李世民、裴寂等曾因功得免死的待遇，並擔任門下省納言。但他自恃功高，不滿自己的地位而心生怨望，招致李淵的忌恨。當他弟弟劉文起請巫師行厭勝之術（古時一種巫術，謂能通過詛咒製勝，壓服人或物）被人告發時，李淵就借機把他一起逮捕下獄。盡管李世民和一些大臣都據實力爭，李淵也充耳不聞，最終以謀反罪殺之，並籍沒其家。劉文靜臨死前把這一切歸於“高鳥逝，良弓藏”，說明了李淵作為大唐帝國的創業垂統之君，與曆史上任何一個王朝的奠基者沒有本質的區別。