不久，慕容延釗來到，高繼衝恭恭敬敬地陪著入城。回到江陵，高繼衝發現宋兵已經占領江陵的大街小巷，這才明白大勢已去，無可挽回，隻得順水推舟，將全境三州十六縣，盡獻給北宋。
在占領荊南後，宋軍繼續進發湖南，這時，周保權已殺了張文表，平定了叛亂，但宋軍還是進入了湖南，周保權的部下沒怎麼抵抗，便投降歸順。至此，荊湖之地盡歸北宋。隨後，趙匡胤於公元964年年底，派大將王全斌、曹彬分兵兩路，僅用66天的時間就滅亡了後蜀。
平定後蜀不久，趙匡胤曾先後兩次進攻北漢，結果都以失敗而告終，並且還損失了大量的精銳和輜重。趙匡胤痛定思痛，及時進行自我批評，決定繼續實施“先南後北”的統一方針，於公元970年秋出兵攻取南漢。南漢以廣州為中心，割據嶺南兩廣地區達60年之久。在平定後蜀時，宋將潘美等就攻占了南漢的郴州，在接到趙匡胤滅南漢的命令後，潘美等立即出兵攻陷了賀州，隨之連克昭、杜、連、韶四州，大敗南漢軍十餘萬於蓮花峰下，並於公元971年春攻克廣州，南漢滅亡。
趙匡胤平定南漢後，準備揮師平定南唐。但南唐大將林仁肇卻讓他心存顧忌。這林仁肇對李煜忠心耿耿，足智多謀，曾屢次大敗吳越。因而趙匡胤想出一個絕妙的離間計，以除掉這個南唐最後的長城。
趙匡胤施行這條妙計時，頗費了一番周折。他首先是將奉哥哥李煜的旨意出使宋朝的李從善留在了汴京，一方麵是為了留作人質，另一方麵就是為了借李從善去實現離間計，因而李從善不得不留在北宋。李煜不知趙匡胤葫蘆裏麵賣的是什麼藥，而又骨肉情深，因此經常派使臣前往宋朝，到李從善的住處了解情況。從此南北雙方都頻繁派遣使者。
過了一段時間，趙匡胤命一名畫師扮作使臣，和其他使臣一同前往南唐。這位畫師技藝高超，而且記憶力極強，即使和他見過一次麵，他也能背著將你的肖像畫出，並且惟妙惟肖，栩栩如生。這位“使臣”來到南唐，見了林仁肇，回到汴京後，立即把林仁肇的相貌畫了下來，送到趙匡胤手中。趙匡胤便將畫像命人掛到館舍裏。
一天，李從善被一個廷臣無意中帶到館舍。見到林仁肇的畫像後，李從善驚異地問廷臣。廷臣故意支支吾吾，廷臣又猶豫了片刻才說道：“閣下已在汴京待這麼長時間了，我就對你說實話吧。皇上愛惜林仁肇的才幹，特地寫信給他，令他前來，他答應歸附皇上，一時不便行動，就派人送來這畫作為憑證。皇上準備把此館賜給林仁肇，待他來到汴京，直接去擔任節度使的官職。”
李從善聽後便將這一情況派使者報告李煜。李煜大怒，當即傳召林仁肇，問林仁肇是否接受過宋詔。林仁肇被問得有些丈二和尚摸不著頭腦，但感到問題相當嚴重，盡管沒有承認，回答支支吾吾。因而李煜更加相信林仁肇已和北宋，便不動聲色地說：“愛卿不必擔心，因有人告發你，故朕向你問明一下，沒有我就放心了！”然後設宴擺酒，將林仁肇毒死。消息傳來，趙匡胤大喜，立即下令準備出征南唐。
公元974年秋，趙匡胤下令宋軍會同吳越國主錢傲統帥的吳越軍兵分三路，從北、南、西三麵向南唐進攻。
在宋軍進兵之前，南唐有個書生樊若水，因屢試不第，上書言事也沒被李煜理睬，決定北投大宋。他在采石礬以釣魚作掩護，經過反複探測，精確地計算出長江的寬度、水深、流速等各種數據，然後向趙匡胤獻上在長江架浮橋之策。趙匡胤正愁北宋大軍無法渡江，見到樊若水。馬上賜他為進士及第，封為讚善大夫，並按照他的設計打造戰艦，做好了渡江的準備。當總攻發起後，江北宋軍通過采石礬浮橋，渡過長江天塹。李煜根本沒想到能在水深江闊的長江上搭橋。等他發現時，國都金陵已處於宋軍的重重包圍之中了。
在李煜仍不投降的情況下，宋軍攻陷金陵城。李煜在宮內堆積了一大堆柴火，發誓與社稷共存亡，到時赴火就義。可他又沒有自殺的勇氣。當曹彬率軍殺進宮時，為保命還是投降了。
滅南唐是趙匡胤統一南方的最後一仗，也是當時最大的一次江河作戰。這次戰爭中的“浮橋渡江”、“圍城打援”，是趙匡胤戰略部署中的得意之舉，也是古代戰爭史上的創舉。
公元967年，趙匡胤死去，宋大宗按照趙匡胤的既定方針，繼續對吳越和漳泉施加壓力，終於不動幹戈，迫使錢飯和陳洪納表獻土，歸降北宋，南方完全統一。隨後，宋太宗一鼓作氣，滅亡北漢，延續了數十年之久的分裂割據局麵終於結束了，除了遼所控製的燕雲十六州以外，漢族所聚居的中原地區和南方的廣大區域重新獲得了統一。
在南北用兵、統一全國的同時，趙匡胤還采取了一係列措施，鞏固和加強了專製主義中央集權，進而創立了一整套為其後代奉若圭臬的“祖宗家法”。
趙匡胤出生在五代十國群雄割據的年代，他非常清楚地方軍閥隻要擁有重兵，便可黃袍加身的無恥行徑，包括他自己，都是在擁有兵權後，方才篡位自立，進而取得天下。因此，趙匡胤在稱帝伊始，首先就是削奪手握重兵的將領和地方節度使的兵權，這個他已經通過“杯酒釋兵權”的方法加以解決，並派文官出任地方官吏，將兵權收歸中央。在任命文官為地方官吏的同時，趙匡胤又害怕這些地方官吏在當地呆的時間過長而擁有自己的勢力，因而又下令地方官吏在一個地方任職不得超過三年，隨後又收奪地方上的財權，要求各州除留有必要的經費外，其餘財賦中屬於貨幣的部分應全部送到京城，不得無故占留。