唐代的地方統治機構沿用了隋朝的州縣兩級製。
建立了政權機構後，李淵為了發展生產，加強統一戰爭的進度，於公元624年頒布均田令，又在均田製的基礎上，實行了租庸調製。均田令的頒布，對於唐初農業生產的恢複和發展起了積極的推動作用，而唐代的租庸調和隋朝相比，以庸代役的條件放寬了，從而使農民有更多的時間從事農業生產。
在軍事製度方麵，李淵實行了府兵製。府兵製建立在均田製之上，是一種兵農合一的製度。兵士平時在家生產，農閑時由兵府加以訓練。府兵的經常性任務，是輪流到京師宿衛或到邊境戍守；若遇到戰爭發生，則出征打仗。府兵在服役期間，可免除本身租調，但宿衛或戍守、出征時的兵器。衣服、糧食均需自備。這種“寓兵於農”的兵製，從均田農民中征兵，保證了兵源，資糧甲杖自備，減少了國家的經費開支。同時，練兵權與將兵權分離，防止了將帥擁兵跋扈，對於加強專製主義中央集權起了一定的作用。
李淵還繼承了隋朝的科舉製，並在其基礎上加以完備，但同時也恢複了隋朝廢除的中正官，以本州高門士人充任，不過大中正隻是名譽職務，用人權仍在吏部，而吏部用人的主要途徑還是科舉。
唐代的科舉分常舉和製舉兩種，常舉即每年舉行的定期考試，考試科目一般為秀才、明經、進土、明法、明算等科，其中明經、進士兩科最為重要。製舉即皇帝根據需要親自主持的考試，科目多臨時設置，考試時間也不固定，錄取人數較少，在科舉製度中不占重要地位。
李淵稱帝後，宣布廢除隋朝的《大業律》，並令裴寂、劉文靜等依隋《開皇律》重新修訂法律，在“務在寬簡，取便於時”的原則指導下，製訂了新律53條。到公元624年正式頒布新律，即《武德律》。從內容上看，《武德律》較隋律用刑有所減輕，但對勞動人民的反抗製裁更嚴酷了。
在短短幾年時間內，唐朝除了依附突厥的梁師都以外，基本上統一了全國，李淵也因此產生了驕傲自滿的情緒，也不再關心政事，整天與嬪妃在後宮玩樂。此時，以李世民為首的“軍功黨”和以李建成為首的“太子黨”為爭奪皇位繼承權明爭暗鬥，展開了你死我活的鬥爭。
公元626年夏，李世民率心腹尉遲敬德等人在玄武門殺掉李建成和李元吉，史稱“玄武門之變”。而此時的李淵，正和大臣蕭禹、裴寂坐在一隻龍船上，蕩漾在南海池中，他見闖入宮中的尉遲敬德全身武裝立在岸邊，十分驚駭。尉遲敬德將李建成和李元吉已被殺死的消息告訴李淵，李淵聽後驚得目瞪口呆。
隨後在蕭禹等人的建議下，將大權完全交給了李世民，並立李世民為太子，兩個月後，李淵不得不退位，開始了太上皇的生活。直到公元635年才因病去世。