隋王朝麵臨的兩大問題是：要想鞏固和發展隋王朝的統治，僅僅管理好隋朝國內的事是不夠的，還要北服突厥，南平陳朝才行。
高穎在征服突厥、平陳的過程之中，做出了重大的貢獻。
平陳時高穎更是起了重大的作用。高穎以及隋朝君臣們常常考慮如何戰勝陳朝、統一南北的問題，高穎認為隻有籠絡江南朝野上下的人心，才能瓦解陳朝的鬥誌。在條件成熟以後，隋朝大軍渡江，即可一鼓將陳朝攻下。
隋文帝楊堅於開皇元年根據高穎的推薦，任命賀若弼為吳州總管，鎮廣陵，韓擒虎為廬州總管，鎮廬江，命賀若弼和韓擒虎籌劃平陳之事。
第二年，高穎為總指揮，試探性地發兵南征。
南征不久，陳朝傳來了陳宣帝的死訊.高穎馬上以"禮不伐喪"為理由停止了進攻，率領南征大軍班師回朝。
高穎極力主張隋朝和陳通使，以禮相待。陳朝的間諜如果被隋朝抓住不僅不殺害，還會得到衣物，隋朝總是將他們客客氣氣地送回。
隋文帝楊堅問高穎有什麼平陳的好策略，高穎從容地說道："江北相對地寒，收獲也相對稍晚；江南相對氣溫較高，水田莊稼成熟較早。我們隻要在江南的收獲季節集中兵馬，對外揚言準備出征江南。他們見此必定會屯兵守禦，如此就會耽誤他們收獲莊稼的時間。他們集中軍隊的時候，我們就下令解散軍隊。如此反反複複，他們就會習以為常。等他們麻痹大意的時候，我們重新集合軍隊出征平陳，趁他們正在猶豫、猜測我們是否要出征之時，我們渡江作戰，在陳沒有準備之時一鼓平陳。江南因土質不好，房子全部是用竹子和茅草做成的，積藏都不放在地窖裏。我們派人秘密過去，乘風放火。他們修複後，我們再放火燒。如此幾年以後，陳就會財力枯竭。"
楊堅聽後認為此法可行，命人按高穎的設想去做，收到了良好的效果。
開皇九年，隋軍兵分三路平陳。此時，高穎在晉王府任長史之職。楊堅名義上統一調度三軍，實際上手握指揮大權的是高穎。
對於平陳，東路大軍將領賀若弼早有準備，他賣掉了軍中的老馬，又公開外賣了一批舊船，陳軍的間諜在暗中窺探，誤以為隋朝賣馬賣船，近期不會對陳軍大舉進攻，放鬆了警惕。
隨後，賀若弼下令，所有江防軍人在輪換接防的時候，必須在廣陵（今揚州）大張旗鼓地集結。
開始的時候，陳軍見遍地是隋軍營房帳幕，誤以為隋軍要渡江平陳，立刻聚集軍隊準備抵禦，結果隋軍隻是換防，並沒有攻陳，虛驚一場以後，陳軍也就習以為常，放鬆警惕了。
賀若弼為了麻痹江南陳軍，還經常派兵到沿江附近狩獵，鬧得人馬喧囂，卻無實際行動。
賀若弼成功地麻痹了江南陳軍。所以，賀若弼從廣陵渡江時，陳軍根本沒有發覺。
同時，韓擒虎率領另一支軍隊渡江到了采石。
賀若弼渡江後軍隊紀律森嚴，軍容整肅，不侵犯百姓的一草一木，有一個士兵私自離開隊伍到民家買酒喝，馬上被斬首。
賀若弼渡江以後，俘虜了南陳軍六千餘人，他為了能夠減輕部隊的包袱，以遣送被俘士兵的方法，對南陳實行攻心戰。他下令：將俘虜的南陳軍士全部釋放，發給他們糧食，並讓他們帶著隋朝詔書，到各地去宣傳隋朝伐陳的政策。
隋軍一路所向無敵，節節勝利，陳軍根本不堪一擊。隋軍迅速攻入了擁有十餘萬武裝部隊的建康，在南陳宮中的枯井中活捉了性情怯懦、不懂軍事、隻懂詩詞的後主陳叔寶。
陳朝的滅亡，標誌著隋朝基本統一了全國。
隋朝統一全國是民心所向。百姓們在戰爭中吃盡了苦，受盡了罪，早就盼望著安定的生活。高穎在此次平陳之役中作出了巨大的貢獻，文帝楊堅授予他上柱國，封"齊公"。
一次，文帝楊堅在宴會上說："高穎平定了江南，虞慶降服了突厥，他們對我大隋朝可謂功勳卓著啊！"
高穎說："功勞最大的還是賀若弼，不但呈獻了十條平陳之策，還親率大軍擊破陳軍。而我區區一介文人，怎麼能與大將軍比誰的功勞更大呢？"