隋文帝建立隋王朝，取得政權後，為了加強中央集權，鞏固自己的統治，建立了一整套新的政治、經濟製度。這些製度，在中國曆史上占有很重要的地位，並對隋代以後各朝產生深遠的影響。
隋文帝首先進行官製改革。在他即位的581年，就廢除北周的六官製度，恢複、改革漢魏官製，建立新的隋朝職官製度。中央設三師、三公及尚書、內史、門下、秘書、內侍五省。
三師就是太師、太傅、太保，官位為正一品。三師在漢魏時名義上是皇帝的老師，與皇帝坐而論道，可以設置官署，自選僚屬。隋朝設置三師，與漢魏不同，不能自設官署，不掌實權，隻是給一些德高望重的人一些榮譽職銜。如隋文帝以前朝元老李穆為太師，享受著貴盛無比的榮耀，但是沒有實權。
三公指太尉、司徒、司空，官位也是正一品。隋初雖然可以自己設置官署，安排僚屬，但不久便被罷去，他們有參預國家大事的責任，但也是顧問性質，而且職位經常空著，不常設，後來也就成了安排退位大臣的閑職。
真正的權力機關是尚書等五省。其中，內侍省是宦官機構，主掌皇宮中的事務；秘書省掌國家圖書曆法，職務也比較清閑，這二省在政權中不占重要位置。全國軍政大事主要由內史、門下、尚書三省和尚書省下轄的六部處理，這是隋朝中樞機構的顯著特點，一般稱之為三省六部製。內史省負責起草詔令，是決策機關，長官為內史令；門下省掌政令審查及封駁，是審議機關，長官為納言；尚書省統率百官，是行政機關，長官稱尚書令和左、右仆射。三省的長官都是宰相。中央機構的日常政務由尚書省所轄六部負責，六部即吏、禮、兵、度支、都官、工六部。吏部掌管全國官吏的任免、考查、升降及調動等；禮部掌學校、祭祀、禮儀及接待四方賓客；兵部掌全國武官的選用及軍籍、車馬、武器裝備等；度支掌全國土地、戶籍、賦稅、財政收支等，度支後改稱民部；都官掌法律、刑獄等，都官後改稱刑部；工部掌管工程、工匠、屯田、水利等。六部設尚書一人，侍郎二人。三省之名，隋以前就有，而三省並立，各有分工，以及三省長官共同向皇帝負責，則始於隋文帝。三省分別負責起草詔令、審議封駁和貫徹執行，互相牽製又互相補充，保證政令的推行，避免權臣專權，有利於皇帝總攬大權。六部製也是隋文帝時確立的，六部始稱六曹，由左、右仆射分領。六部尚書分掌全國政務，加強了中央集權，後世遂相沿成例，一直延續到清末。隋文帝所建立的三省六部製，發展和加強了中央集權的封建國家製度，開創了中國官製史上的一個新階段，對唐以後的曆代封建官製影響很大。
中央職官還有禦史、都水二台，分掌監察、水利等事。太常、光祿、衛尉、宗正、太仆、大理、鴻臚、司農、太府、國子、將作等11寺，作為中央具體事務機關，分掌各項具體事務。
在地方官製方麵，隋以前的地方官製非常混亂，北周實行州、郡、縣三級製，全國有211個州，508個郡，1124個縣，每州所轄平均不到3個郡，每郡隻管2個縣，而且許多縣都很小。而地方政府機構卻紛繁重疊，官吏冗多。583年（隋開皇三年），隋文帝廢去郡這一級，改為州、縣兩級製，州設刺史，縣置縣令。同時，合並了一些州縣，裁汰了許多冗官，節省了國家開支，提高了行政效率。地方實行州縣兩級後，州刺史隻管民政，不掌軍權，從而消除了割據因素。
隋文帝還廢除了州縣長官可以辟舉本地人士擔任僚屬的舊製，規定凡是九品以上的地方官一律由中央政府的吏部任免，並且每年進行考核，縣佐必須用外地人，三年一任，不得連任。這樣，本地人便無法把持本地政務。這些措施既改善了吏治，又加強了中央對地方的控製。
關於軍事製度，隋文帝也進行了改革。隋初，繼續實行西魏、北周以來的府兵製。隋文帝對之進行了重要的改革，將府兵編入民籍。原先府兵，獨立軍戶，其家屬隨營，住在軍坊，不是民戶。在戰爭情況下，府兵南征北戰，調動頻繁，軍人家屬也居無定所。隋朝滅陳統一中國後，590年（隋開皇十年），隋文帝下令：“所有軍人，戶籍全部劃入當地州縣，土地分配和賦役征收與當地農民完全一樣，但是他們仍有軍人的職責，受軍府管轄。”這樣，軍人連同他們的家屬列入州縣戶籍，轉為民戶，可以按均田法受田。軍人家屬實現了安土定居，軍人平時耕作，每年有一定時間輪番宿衛，戰時出征。府兵製下的軍人，就是均田製下的農民，改變了過去兵農分治的現象，實現了兵農合一，寓兵於農。府兵製度進一步與均田製結合起來。由於府兵可以按均田令領受一份田地，這樣實際上擴大了府兵的兵源，有利於府兵製度的鞏固和國家對府兵的控製，防止府兵將領擁兵自重，驕橫跋扈，從而鞏固了中央集權。在府兵統率方麵，隋文帝建立了衛府製度。開皇中，置驃騎府，每府置驃騎、車騎二將軍統領府兵。中央置12府，即左右衛、左右武衛、左右武侯、左右領、左右監門、左右領軍，中央12府下統諸驃騎府，直屬皇帝管轄。這樣，皇帝掌有對軍隊的直接控製權。