北周靜帝宇文闡時，軍政大權逐漸落到了外戚楊堅的手中。楊堅先是清除了朝廷中的異己力量，接著又鎮壓了尉遲迥、司馬消難、王謙等人發動的聲勢浩大的兵變。581年，楊堅強迫周靜帝退位，自己稱帝，建立了隋朝。之後，隋滅陳，使中國曆時200餘年南北分裂的局麵宣告結束，又進入了大一統時期。
■關隴士族，楊門崛起
楊堅，祖籍弘農華陰（今陝西華陰）。北朝時，弘農楊氏是關隴一帶著名的大姓。
據傳，東漢太尉楊震的八代孫楊鉉是楊氏的祖先，後燕時曾任北平的太守。之後，楊氏家族地位顯赫，族中一直有人在朝廷中當高官。楊堅的父親楊忠就是西魏和北周的重要軍事將領，協助宇文泰為北周的建立打下了牢固的根基，後來做了柱國大將軍、大司空，成了隋國公，顯赫無比。
根據一些史料記載，楊堅出世時出現了祥雲，可幼年時他並不十分聰慧，因為是貴族子弟，就在貴族學堂裏接受教育。他讀書讀得不好，因此別人總是嘲諷他胸無點墨。他自己也很清楚這一點，曾經自我解嘲道：“不曉書語。”
楊忠過世後，楊堅繼承了父親的爵位，成了北周的大將軍和隨國公。北周鮮卑貴族獨孤信認為他以後一定會大有作為，因此就讓他娶了自己的小女兒，即後來著名的獨孤皇後。憑借著獨孤家顯赫的權勢和自家的根基，楊堅平步青雲，很快就有了極高的聲望。
北周武帝宇文邕病逝後，宣帝宇文贇登基為帝，楊堅的大女兒做了皇後。楊堅是皇親國戚，沒多久就被升為上柱國、大司馬，執掌了朝政。周宣帝殘暴昏庸，沉迷酒色，胡作非為，在大臣中的名望和威信也不高。楊堅野心勃勃地想要取而代之，周宣帝也有所察覺，可是他沒有真憑實據，難以下手，因此就沒有除掉楊堅。
周宣帝執政才兩年就死了。此後登基的靜帝宇文闡年僅八歲，大臣鄭譯、劉昉假造詔書，令楊堅輔佐朝政，並封其為“假黃鉞、左大丞相”，總攬軍政大權，沒多久又封其為隋王。
■祖福蔭庇，假詔稱帝
做了輔佐朝政的權臣後，楊堅首先拉攏了當時的一些賢士，穩固了統治，之後就著手清除朝中異黨。宣帝之弟宇文讚是楊堅獨攬朝政的最大障礙，因為他和楊堅權威、身份相當，因此楊堅就命人假意勸告宇文讚：“你早晚都會成為皇帝，為何要如此盡心盡力地處理朝政呢，何不回家清閑幾天？”宇文讚比較年輕，沒什麼心機，覺得這話也對，就不再理會政事了。
接著，楊堅果敢地除掉了北周皇室勢力最強的五個藩王：趙王宇文招、陳王宇文純、越王宇文盛、代王宇文達、滕王宇文道。然後平定了尉遲迥、司馬消難等人的叛亂。
在除掉朝中異己、鎮壓了地方的反叛勢力後，楊堅就開始展示他的治國之才。他首先下旨廢除了北周宣帝時製定的繁苛的政令和殘酷的刑法，並將一些錢財還給了寺廟，允許普通百姓傳播佛教和道教，以此來贏得民心，並緩解不斷激化的階級矛盾。
581年春，楊堅命人為周靜帝把讓位的詔書寫好，接著又假裝推托了幾次，後來在大臣的“苦勸”下，終於登基為帝，建立隋朝，定都長安，年號開皇。
■天下歸一，開皇之治
當時，天下百廢待舉，禍亂不斷，而且全國還沒有統一，荊楚的後梁和江南的陳朝還都存在。後梁國力弱小，素來稱臣於北周，因此隋文帝毫不費力地就吞並了後梁。此後，陳朝就成為隋朝統一天下的最後一個對手。此時陳朝國內一片混亂，陳後主不思進取，庸碌無為，致使國力漸衰，根本無力抵抗大隋。開皇八年（588年），隋文帝下旨曆數陳後主的20條罪行，呼籲天下百姓共同征討陳後主，以此來為自己滅陳創造聲勢。同年秋，隋文帝命次子晉王楊廣率領50萬兵馬，分兵八路攻陳。此時陳後主不知國之將亡，還和權臣妃子們載歌載舞、飲酒作樂呢。
隋軍毫不費力就攻破了長江天險，直抵陳朝都城外。這時，陳後主才如夢初醒，可為時已晚。隋文帝消滅了苟延殘喘的陳朝，結束了南北方將近300年的分裂局勢。