開皇八年（公元588年）三月，隋文帝下詔，列舉陳後主罪行又送璽書暴其罪惡20條，並將詔書在江南散發30萬份，以爭取人心。十月，隋文帝在壽春（今安徽壽縣）設淮南行台，以晉王楊廣為行台尚書令，主管滅陳之事。命楊廣、秦王楊俊、楊素並為行軍元帥，高熲為晉王元帥府長史，右仆射王韶為司馬，集中水陸軍53萬，統由楊廣節度，東至大海，西到巴、蜀，旌旗舟楫，橫亙數千裏。隋軍自長江上遊至下遊分為8路攻陳：楊素指揮水軍主力，出巴東郡，順流東下，消滅長江及沿岸陳水陸軍；楊俊指揮上遊3路進攻江夏（今武昌），以扼控長江，阻止上遊陳軍東援；楊廣指揮下遊5路為主攻方向，楊廣出六合，賀若弼出廣陵，韓擒虎出廬江，鋒芒所向，直指陳都建康（今南京市）。
十一月，楊堅至定城（今陝西華陰東）誓師，準備渡江的各路隋軍進抵長江北岸，完成進攻準備。陳後主荒淫驕侈，政治腐敗，既不懂軍事，又不納部將建議，憑恃“長江天塹”，疏於防務。為了元會（即春節）之慶，竟命鎮守緣江重鎮江州（治今江西九江）、南徐州（治今江蘇鎮江）的兩個兒子率戰船回建康，致使江防更為薄弱。十二月，長江上遊隋軍首先發起進攻。
奔襲建康，俘陳後主
開皇九年（公元589年）正月初一，韓擒虎乘陳軍歡度年節、疏於守備之機，率精銳500卒出廬江由橫江口（今安徽和縣東南）夜渡長江。陳軍守將皆醉，韓擒虎一舉襲占陳沿江要采石（今安徽馬鞍山市西南）。襲占采石後，韓擒虎即命令主力部隊渡過長江，揮軍逼近建康。
初四，陳後主察覺事態不利，下詔親率陳軍拒敵。命驃騎將軍蕭摩訶、護軍將軍樊毅、中領軍魯廣達並為都督；又派南豫州刺史樊猛率水軍堅守白下（今南京城北金川門外），抵禦六合方麵隋軍；以散騎常侍皋文奏率部鎮守南豫州（治姑蘇，今安徽當塗）。
正月初七，韓擒虎進攻姑蘇（今安徽當塗），半日而克。陳軍因懼韓擒虎勇猛善戰，陳將樊巡、魯世真、田瑞等相繼投降。江南百姓久聞其威名，紛至軍門拜見。隋文帝聞訊後大喜，為此宴賜群臣。陳後主令陳軍放棄鍾山（今南京紫金山）、石頭（今南京城西清涼山）山險不守，命諸軍屯於都城內外。
十五日，陳鎮東大將軍任忠率軍自吳興（今浙江湖州南）入援建康，駐守朱雀門（建康城南門）。
十七日，賀若弼軍進據鍾山（今南京紫金山），屯於山南白土岡東；韓擒虎與渡江攻占南陵（今安徽貴池西南）的總管杜彥合軍步騎2萬，進屯新林（今南京西南）。行軍總管宇文述率軍3萬渡江，進占石頭。至此，隋軍對建康已形成合圍。陳後主麵對隋軍攻勢，不采納部將任忠、蕭摩訶的建議，致使建康附近10餘萬陳軍無所作為。
二十日，陳軍奉命倉促出戰，在白土岡南北列陣20裏，首尾進退互不相知。賀若弼軍初戰不利，然後猛攻陳軍薄弱部分，陳軍全線潰退。時建康城內空虛，韓擒虎率精騎500批亢搗虛奔襲建康。進至石子岡（今南京雨花台）時，陳將任忠迎降，陳後主遣領軍蔡征守朱雀航（在今南京秦淮河上），聞韓擒虎軍至，眾懼而潰。
陳朝鎮東大將軍任忠投降後，引導著韓擒虎攻入建康城內，守城將士見此，紛紛或逃或降，使隋軍順利進入了陳朝皇宮。韓擒虎命士卒搜遍宮廷，從一個降卒處得到線索，在一口枯井中活捉了嚇得瑟瑟發抖的後主陳叔寶。至此，不到10天，隋軍就滅了南朝的陳國，創造了古今軍事史上的奇跡。
“點評”
隋朝的四大開國名將賀若弼、韓擒虎、高熲、史萬歲中，日後唯獨韓擒虎獨善其身。一是因為他讀書多，懂得謹言慎行，不至於犯了皇帝的忌，另一個原因就是得益於他常年在邊境駐守，避免了被卷入更大的政治漩渦。所以說鎮守邊關、對付突厥不僅成就了這位將軍的佳話，還讓他得以最好的結局收場。而深得韓擒虎兵法真傳的好外甥李靖，則成了唐朝伐隋的急先鋒。