在攻西蜀之際，趙匡胤令大將潘美鎮守湖南。南漢主劉钅長腐朽昏庸，不修國政，反而向北用兵，企圖擴展版圖，被潘美擊退，還丟失了彬州。北宋遠征北漢失利後，趙匡胤又轉向南方，伺機用兵。公元970年，南漢軍攻道州，激怒了趙匡胤。9月，宋太祖趙匡胤派潘美、尹崇珂、王繼勳為主將，率10州兵馬從湖南繞過五嶺進攻賀州。
刀車（模型）
宋代時，隨著設防城堡的不斷發展，攻守城器械也相應發展起來，攻和守的器械也有了明確分類。圖為宋代用以守城堵塞缺口的塞門刀車（模型）。
南漢賀州刺史陳守忠告急於劉钅長，劉钅長遣大將伍彥柔從水路前往救助賀州。北宋軍聞訊後，撤至距賀州約20裏處的南鄉，並在此埋下伏兵。南漢援軍夜泊南鄉，黎明時登陸，突遇宋軍伏兵，幾乎全部被殲，南漢大將伍彥柔被擒斬首。賀州漢軍在強勁的宋軍麵前隻得投降。
潘美克賀州後，聲言要順江而下進攻興王府。劉钅長已無大將可遣，隻得起用閑置多年的宿將潘崇徹，令其統兵5萬鎮守賀江口。10月，宋軍占領開建寨，俘虜漢將靳暉。昭州、桂州的南漢軍聞風而遁，宋軍輕取二州。11月，潘美折兵向東，又攻陷連州。南漢招討使盧收退保清遠。劉钅長以為宋軍已得湖南14州，不會再南進了，未作更多防範。潘美率重兵馬不停蹄，12月進圍韶州。劉钅長見勢不妙，速令李承渥領兵數萬堵擊宋軍。南漢軍在蓮花峰下列陣，置大象於陣前與宋軍決戰。潘美早有破敵之策，集中了強弓勁弩眾箭齊發，大象驚亂回奔，衝散了南漢軍陣。宋軍全線壓進，南漢軍傾刻瓦解，李承渥逃離戰場，北宋軍占領韶州。
韶州失陷，興王府再無屏障。劉钅長又以一位宦官的養子郭崇嶽為招討使，與大將植廷曉統兵6萬進抵馬徑，遍立營柵以拒宋軍。公元971年正月，潘美軍先占英州，又取雄州。此時，固守賀江口的潘崇徹全軍出降。劉钅長見回天乏力，遂向潘美乞降。不久，劉钅長自恃尚有15萬兵馬，還能與宋軍抗衡，便令其弟劉保興率軍前往馬徑增援。南漢與北宋兩軍在馬徑又大戰，南漢大將植廷曉陣亡，郭崇嶽奔回營柵。當晚，宋軍火攻營柵，南漢軍潰敗，郭崇嶽死於亂軍之中，劉保興逃回興王府。公元971年2月4日，宋軍抵達興王府城下。第二天，劉钅長出城投降。廣袤的嶺南地區，從此成為北宋的疆土。
南漢滅亡之後，南方剩下的最後3個割據政權個個自危，震恐異常。勢力最強大的南唐皇帝李煜這時也不得不主動要求取消國號，放棄皇帝的稱號，改稱“江南國主”。另外兩個割據政權，吳越和漳泉早就上表稱臣，接受了宋朝的官職。
經過3年的準備，公元974年10月，宋太祖令曹彬為統帥、潘美為都監，率水、步、騎兵在采石一線強行渡江，進圍金陵；同時令吳越國主錢俶統率吳越軍5萬，由宋將丁德裕監軍，從東麵攻取長州，然後會師金陵；令王明為西路軍，向武昌方向進擊，牽製屯駐在江西的南唐軍隊，使其無法東下援救金陵。11月中旬，宋軍依照樊若冰的圖示在采石用預先造好的戰艦架設浮橋獲得成功，其主力部隊通過浮橋，順利跨過了長江天險，大敗南唐水陸兵10餘萬於秦淮，直逼金陵城下。與此同時，錢俶率兵攻克了長州、江陰、潤州，形成了對金陵的外線包圍，金陵成了一座孤城。11月27日，在李煜仍不投降的情況下，宋軍發起總攻，金陵城破，李煜做了俘虜。
滅南唐是宋太祖統一南方的最後一仗，也是當時最大的一次江河作戰。這次戰爭中的“浮橋渡江”、“圍城打援”，是宋太祖戰略部署中的得意之舉，也是古代戰爭史上的創舉。
公元976年，宋太祖死去。宋太宗趙光義按照宋太祖的既定方針，繼續對吳越和漳泉施加壓力，終於不動一兵一卒，迫使錢俶和陳洪納表獻土，以兩浙和福建地區的15州1軍100縣歸降北宋。南方至此完全統一。在此基礎上，宋太宗一鼓作氣，滅掉了北漢，延續了數十年之久的分裂割據局麵終於結束了。除了遼所控製的燕雲16州外，漢族所聚居的中原地區和南方的廣大區域重新獲得了統一。這時，離宋太祖逝世僅3年。