突厥原是活動於中亞一帶的遊牧民族，後來東遷，活動在蒙古高原。在木杆統治時，突厥強大起來，到陀體統治時，不斷侵擾內地。楊堅初執周政時，曾派周臣長孫晟（shènɡ）送千金公主入突厥與之和親，希望緩和雙邊關係。長孫晟在這次出使中，詳細了解了突厥地區的山川形勢、部落強弱及其統治階級內部的矛盾狀況。在581年，長孫晟就如何更好地解決突厥問題給隋文帝上了一道奏章。他指出，目前隋朝剛剛建立，內外交困，不適宜動兵討伐突厥，但如果棄之不管，突厥會大舉入侵，所以應運用謀略，利用突厥貴族內部的矛盾，離間強大部落，扶助弱小部落，這樣一來，隻需要十多年，乘機討伐它，一定大獲成功。隋文帝接受他的建議，分派長孫晟與元暉出使黃龍（今吉林農安）、伊吾（今新疆哈密），分別對突厥首領沙缽（bō）略可汗的東西兩翼突厥勢力進行聯絡，取得了很好的成效。當沙缽略可汗大舉入侵隋時，其先鋒阿波在長孫晟的勸說下很快撤軍。沙缽略對阿波的行為極為憤怒，便進攻阿波，阿波不得已投靠西突厥，這樣突厥內部互相攻擊，戰爭不息，隋文帝就從中得到利益。同時，隋文帝又三次征發民夫修築長城，與原來北齊所修長城連接，對抵禦突厥起了一定作用。585年，沙缽略可汗派兒子來朝見隋文帝，並向隋稱臣。後來突厥分為東、西兩部分時，東突厥南附接受隋的控製，北部邊防鞏固下來。
用和親和修築長城來抵禦突厥，這樣隋文帝沒有進行大規模的戰爭，便得到了北部邊境的安寧，隋王朝得以集中力量南下，實現中國統一。
南滅陳朝
此時，南方的陳王朝在陳叔寶的統治下已腐朽到極點，國家資產枯竭，勞役無窮盡，百姓困苦萬分，陳已失去統治的基礎。隋文帝進行了充分的準備。在長江中上遊大量造船隻，在下遊準備渡江。隋文帝又下詔書曆數陳叔寶的罪狀，並印製了幾十萬份在江南和陳軍中廣為散發，一方麵鼓舞了自己軍隊的士氣，另一方麵也起了瓦解敵軍的作用，使隋軍在進攻之初，便在政治上、軍事上處於有利地位。
開皇八年（588）秋，隋文帝命晉王楊廣為主帥，發兵51萬，東起渤海，西至今四川，在整個長江沿線水陸並進，向陳發動了大規模進攻。這時陳王朝共有兵力不過10萬，而君臣們都依仗長江天險和“金陵王氣”，仍生活在花天酒地之中，麵對隋的全麵進攻，陳首尾不能相顧，根本無力抵抗，僅三個月的時間，隋便消滅了陳，實現了統一中國的大業。戰爭的迅速結束，大大減少了對社會的破壞程度和對人民造成的痛苦，受到各族人民的熱烈歡迎。
當南下軍隊回到長安後，隋文帝下令獎賞有功將士，同時免去原陳朝管轄地區的10年賦役，發展農業生產。他還認識到，戰爭已經結束，要盡可能消滅一切可能危及他的統治的隱患，於是下令在陳邊疆和京師守衛軍隊以外，其餘的兵器等軍事裝備應立即停止製造，民間兵器應全部銷毀；軍人子弟應盡力改學文，功臣後代應熟讀一經，把尚武之風變為習文之氣。開皇十五年（598），楊堅又下令收繳天下所有兵器，若發現私自打造者嚴懲。這些措施說明楊堅希望老百姓各安其業，老老實實做他的順民，但也對生產的發展和社會穩定起了一定的積極作用。
建國的改革措施
在天下基本穩定後，楊堅實行了一係列改革措施，以鞏固他的統治。
在官製方麵，北周官製多模仿《周官》設置，既亂且濫。隋文帝廢除北周官帛，恢複漢魏舊製，並加以調整，建立起一整套相當嚴密的政治機製。設三師、三公及五省。三師隻是給予德高望重者的榮譽職銜；三公也隻是顧問性質，沒有實權，也不常設；五省才是真正的權力機關，其中內侍省和秘書省分管宮中瑣事與國家圖書曆法，不占重要位置，最重要的是門下、內史和尚書這三省。門下省和內史省是協助皇帝執政的決策機構，掌管機密，共商國政，並負責審查皇帝發布的詔書，簽署大臣的奏章，對皇帝可以提出自己的意見或建議，對奏章可以駁回或進行處理。尚書省是主持日常政務的機構，下設吏、禮、兵、刑、戶、工六部。隋文帝創三省六部製對中國曆史有巨大貢獻，正如秦始皇創三公九卿製為漢以後各朝所沿襲沿襲：依照舊傳統或原有的規定辦理。，隋文帝創隋製，為唐以後各朝所遵循。
在農業方麵，隋文帝沿用北魏以來的均田製，規定每個成年男子可以受露田80畝。永業田20畝，成年女子隻受露田40畝。奴婢分田數量與一般農民相同，收入歸主人所有。永業回歸自己，露田在死後歸公。隋文帝推行的均田製當然包括貴族官僚甚至包括其奴婢耕牛的分配土地，但畢竟為一般農民提供了一定量的土地，出現一大批自耕農。自耕農的大批出現及其經濟的發展是封建經濟發展的基礎。有的史學家認為均田製的實施是中國封建經濟史上的一件大事。孟子所理想的井田製，以均田製的形式付諸實施，隋朝以及後來唐朝經濟比兩漢南北朝經濟有進一步的發展，均田製起著積極影響。