大業初年，李淵被任為滎陽、樓煩太守，後還朝轉為殿內少監。殿內省屬隋中央政府機構五省之一，殿內少監為殿內省長官，專掌朝廷供奉諸事，秩從四品。大業時郡太守秩分三品、正四品、從四品三等。李淵被封為殿內少監，不至於降級，據此可以知道李淵任郡太守時其秩當為從四品。由於李淵從地方調至中央，因而他一家又返回長安。大業九年（公元613年）李淵遷衛尉少卿，秩正四品，掌管朝廷宮殿禁衛事。後來隋煬帝發動征遼東的戰爭，李淵在懷遠鎮負責督運。楊玄感起兵反隋時，他又奉命馳驛坐鎮弘化郡，兼知關右諸軍事，成為負責方麵的大臣和軍事將領。
李淵在隋朝的官品始終在三品以下，沒能進入樞要的行列，其原因是李昞的過早去世。關隴貴族的特點是爵位世襲，可官位仍須憑勳功和才能授予。李昞生前沒有顯赫的建樹，死時李淵又年幼，加上隋統治者在篡周後，為了鞏固自己的地位，對非楊氏的關隴貴族，一再實行打擊、排斥的政策，這多少使李氏家族在仕途上蒙上一些陰影。李淵給長子取名“建成”，二子取名“世民”，也就是取建功成業、濟世安民，以重振門望家聲的意思。這既是他對後輩的期待，也包含著他本人不滿於現狀的情緒。當然，由於裙帶關係，李淵在隋朝廷中的地位畢竟是優越的。隨著李淵年齡的增長，朝廷又提供了他發揮才能的舞台。特別是大業九年（公元613年），李淵由文官轉為武官，並一再遷升，這對於一個軍事貴族的後裔來說，意味著重彰先祖舊業的時機來臨了。在這年，李世民剛好十六歲。
如果說童年時代的李世民，在母親的教誨下養成了喜愛讀書、愛好文史的習慣，並能寫得一手好字的話，那麼，使他更感興趣的則是從他的軍事貴族家庭中接受軍事知識和騎射的訓練。他從小便練習弓馬騎射，馳騁獵場。由於身強體壯，又嚴格要求自己，他所用的箭比一般人所用的要大一倍。在百步之外，他能“躬洞門闔”，足見其武藝精湛。讀兵書亦是其中的重要內容之一。李世民對曹操所注釋的《孫子兵法》非常感興趣，對這些兵書能夠倒背如流，在少年時代便能就《孫子兵法》的理論同父親談論兵策，使父親感到李世民在眾兄弟中確實有超群的見識。
李世民的父親李淵是個射箭的能手，因射技高超而贏娶竇氏，李世民的嶽父長孫晟，也是能夠一箭射二雕，讓突厥可汗大為歎服。李世民因此對演習騎射懷有極大的興趣。對於騎射，李世民做了皇帝後曾回憶說：“朕少好弓矢，自謂能盡其妙。”又說：“朕少尚威武，不精學業，先王之道，茫若涉海。”從李世民的表白中可以看出，他在青少年時期雖然也愛好文史和書法，但不是一介文弱書生，而是善於騎射、強悍驍勇的貴族子弟。他性格倔強豪放，從小便養成了“剛烈”的性格特點。在隋末的動蕩年代裏，李世民正是從家庭的傳統軍事教育中培養出了相當的軍事本領，使得他在日後的軍事鬥爭的大舞台上，為唐王朝的建立做出了自己的重大貢獻。
初露鋒芒
隋朝統一天下，是中國曆史上的一件大事，它結束了中國社會四百來年的分裂局麵。隋文帝楊堅，稱帝後曾實行了一係列的社會改革：設置尚書、門下、內史三省以加強中央集權；簡化地方行政機構，在地方政權上實行州、縣兩級製，以節省國家開支，便於政令的傳達；建立科舉選官製度，加強對地方官吏的考核和控製；在經濟上頒布均田令，采用租庸調製度，減免賦稅，頒布“輸積法”以打擊豪強勢力，增加國家的財政收入，注重水利建設；將府兵製度推行於全國，鎮壓江南豪族叛亂等等。這一切，使得隋朝的農業獲得了空前的發展，耕地麵積擴大，糧食產量增加，全國各地糧倉中儲存的糧食數量不可勝數。在手工業方麵，著名工匠李春所設計的趙州石橋，至今仍保存完好，堪稱我國建築史上的傑作。其他如紡織業、造船業亦有很大的發展。在科學文化事業方麵巢元方的《諸病源候論》、陸法言的《切韻》，都堪稱一代名著。
這一時期，在同邊疆各民族的聯係上有了進一步的加強，中原與中亞地區開辟了三條主要交通要道。總之，在隋朝統一後的短短時期內，社會經濟、文化事業獲得了空前的發展，呈現出國勢強盛的局麵。
另一方麵，隋朝在隋文帝統治時期，社會矛盾也呈現出某種程度上激化。隋王朝的建立，是隋文帝楊堅以外戚的身份通過輔政的方式取得的。他不懂得安天下必須先安百姓的道理，因而在施政方針上，所實行的均田製度並沒有解決豪強兼並土地的問題。他通過加重對人民的賦稅征收，來增加國家倉庫中儲存的糧食，據後來的估計，足以供五六十年的食用。即使在這種情況下，當開皇十四年（公元594年）關中地區出現大旱災、人民無糧可食的情況下，隋文帝表麵上表示同情人民的疾苦，但仍不肯開倉放糧，賑濟災民，而是命令關中災民到河南洛陽地區“就食”，自謀活路。在史書記載中，隋文帝是以節儉而著名的。但在事實上，他下令大興土木，在岐州修造仁壽宮，工程期限緊迫，因工程而死者多達幾萬人。在法律製度建設方麵，他有時不按法律條文辦事，晚年“喜怒不恒”、“用法益峻”，促成了社會矛盾的激化。等到隋煬帝繼位之後，這個昏君的暴政致使社會矛盾立即空前地尖銳起來。
隋煬帝楊廣，於公元六○四年迫不及待地將病重的父親殺死，自己登上了皇帝的寶座。隋煬帝上台後，立即向全國征發大批民工，大興土木。他下令營建東都洛陽，每月役使的民夫多達二百萬人，死者十有四五。他調動大量民力，從五嶺、江南地區向北方運送奇材怪石，營建宮殿和苑囿。他在洛陽西麵修建的西苑，方圓二百裏，苑內宮殿無數，亭台樓閣林立，工程十分浩大。為乘船到江都遊玩，他下令征調上百萬的民夫開鑿運河。人民為了躲避徭役，往往自己傷殘自己的肢體，稱為“福手”、“福足”，可見人民被迫害到何種悲慘的地步。特別是隋煬帝自公元六一二年至六一四年向遼東地區發起的征討高麗的戰爭，給人民帶來了更加深重的災難，終於導致了農民起義的爆發。
隋煬帝征討高麗，以山東的東萊和河北的涿郡為軍事基地，因而給河北、山東地區的百姓帶來了沉重的負擔。大業七年 （公元611年），山東、河北發生大水災，淹沒了三十餘個郡縣，大批農民在穀價上漲、饑饉四起的情況下，被迫離開土地。而隋煬帝卻不顧災民的死活，加緊準備對高麗的戰爭。這一年的十二月，鄒平人王薄率眾占領長白山，舉起起義的大旗。王薄自稱“知世郎”，作了一首《無向遼東浪死歌》，號召人民“譬如遼東死，斬頭何所傷”，起來反對進攻高麗的戰爭，貧苦農民大多投向了他，起義隊伍迅速地壯大起來。