公元962年，割據湖南的周行逢病死了，他的兒子周保權繼位。大將張文表不服周保權，起兵反抗，割據潭州（現湖南省長沙市）。周保權派人向宋朝求援，這給宋太祖提供了一個好機會。第二年初，宋太祖派慕容延釗帶領大軍，討伐張文表。宋朝出兵湖南，要經過南平。南平占有現在的湖北江陵、公安一帶，都城是荊州。這時候，正趕上南平國主高繼勖去世，由侄子高繼衝繼位。南平隻有3萬軍隊，力量非常薄弱。慕容延釗乘高繼衝沒有防備，一舉占領了南平。接著，慕容延釗向湖南進發。當時周保權已把張文表殺死，但無力抵抗宋軍的進攻，結果戰敗被俘，湖南被平定了。
後蜀建都成都，占有現在的四川和陝西南部。後蜀國主孟昶非常荒淫奢侈，連尿壺都用金銀珠寶裝飾。大臣王昭遠勸孟昶聯合北漢進攻宋朝。孟昶派人送密信給北漢。不料密信被宋朝截獲，趙匡胤大笑說：“這一下，我出兵西討就有理由了。”公元961年11月，趙匡胤派忠武軍節度使王全斌等人帶領大軍，分成幾路，浩浩蕩蕩奔向後蜀。孟昶連忙派王昭遠率兵抵抗。王昭遠平時愛看兵書，但是從來沒有立過戰功，隻會紙上談兵。他親自帶兵，三次和宋軍交鋒，都大敗而逃，一直退到劍門。後蜀許多州縣，很快落入了宋軍手裏。孟昶沒有力量抵抗，隻好投降，這樣後蜀也被平定了。
南漢建都廣州，占有現在的廣東和廣西南部。公元97O年，宋太祖命令大將潘美帶領大軍征討南漢。因為很久沒有打仗了，南漢士兵們都不會打仗。潘美的軍隊打到廣州，劉钅長把美女和金銀財寶裝到十幾隻大船上，準備入海逃跑。哪知道那些大船竟被宦官盜走了。劉钅長沒有辦法逃跑，就放火焚燒府車宮殿，出城投降了，南漢被平定了。
南唐建都金陵，占有現在江蘇、安徽淮河以南和福建、江西、湖南、湖北東部。南唐國主李煜自知不是宋朝的對手，所以一直向宋朝納貢。後來，李煜又自動取消南唐國號，改稱江南國主，企圖維持他的統治地位，可是趙匡胤還是決定除掉他。公元974年9月，趙匡胤命大將曹彬出征江南，宋軍很快就打到了金陵。李煜是個有名的文學家，很會寫詞，但是不大過問政事。一天，他親自巡城，看到城下到處都是宋軍的旗幟，方才大吃一驚。他連忙派大臣徐鉉到開封去見宋太祖趙匡胤。徐鉉對趙匡胤說：“李煜以小國侍奉大國，像兒子侍奉父親，沒有什麼過失，宋朝為什麼要出兵討伐呢？”趙匡胤回答：“你說父子可以分為兩家嗎？”這年11月，宋軍攻進金陵，李煜投降，南唐也滅亡了。
占據現在浙江、江蘇一帶的吳越，也竭力向宋朝表示順服，吳越國主錢亻叔不斷向宋朝進貢。宋朝進軍江南的時候，命令錢亻叔出兵援助。李煜趕緊寫信給錢亻叔說：“今天沒有我，明天怎麼還會有你？早晚你也是汴京一個平民罷了。”錢亻叔把這封信交給了宋朝，又親自出兵攻打李煜。南唐滅亡以後，宋太祖讓錢亻叔到開封來，錢亻叔連忙去朝見。過了兩個月，錢亻叔要回杭州了。就在他動身的時候，趙匡胤送給他一個黃包袱。錢亻叔打開一看，裏麵都是宋朝大臣請求趙匡胤扣留他的奏疏。他非常恐懼，回國後又派人送去大批財物。這時候的吳越，對宋朝唯命是從，隻保留著一個國號。到了宋太宗的時候，錢亻叔又去開封朝見，被宋太宗扣留下來，被迫獻出了全部土地。
當時，隻剩下留從效割據泉、漳等州。留從效死後，部將陳洪進奪取兵權，他派人向宋朝進貢，並獻出了泉、漳等州土地。江南最後一個割據勢力也被消滅了。
趙匡胤從公元963年起，隻用了1O來年的時間，就消滅了南方各地的割據勢力。這一方麵是因為當時人們厭惡戰亂，要求統一；同時，南方和中原地區經濟聯係的發展，也要求消除起阻礙作用的割據政權。趙匡胤的統一事業符合人民的要求，符合客觀的需要，他個人又具有相當的政治軍事才能。所以，他在較短的時間內，實現了南方的統一。
高明的用兵藝術
趙匡胤一生大部分時間是在戎馬生涯中渡過的。他嗜好讀書，精通兵法，再與他豐富的長期實戰經驗結合起來，形成了他的一些獨到的用兵方法。
他用兵的最大特色便是注意戰前準備，不打無準備之仗。每部署一次重大戰役前，他總是廣納各方獻策，包括敵方投降者的意見，擇優從之。為了了解敵情，他或派人偵察，或在敵營中物色內應，充分利用敵人內部矛盾，采用離間計，進行分化瓦解。如伐蜀前，趙匡胤已盡知後蜀虛實；進軍南唐前，他用離間計誘使李煜殺掉了主張抗宋的林仁肇，又取了江南十九州的圖紙，弄清了渡江的要道等等。由於趙匡胤正確地掌握了敵方兵力的部署，地形地物，民心向背和內心矛盾，因此能夠從容地部署自己的力量，選擇最有利的出擊時機和行動方案。
善於出奇製勝是趙匡胤用兵的第二特色。早在高平之戰以後，周世宗兵伐南唐，趙匡胤奉命進攻滁州（今安徽滁縣）。南唐守將皇甫暉、姚鳳以為周軍會從正麵進攻，便在清漢關憑險嚴陣以待。想不到趙匡胤率精兵繞出山後，從側背紮向清流關。失去天險的皇甫暉等倉皇入城。趙匡胤在城下設好伏兵，親手活捉皇甫暉、姚鳳，拔滁州城。不久，他又率軍進攻六合（今江蘇六合）。這時，唐將齊玉正率軍主力駐紮在距六合隻有2O餘裏的地方。眾將求功心切，紛紛請求出擊。但趙匡胤卻不準，他對眾人分析道：“我們兵將總共也不過2OOO多人，倘若進攻敵人，敵人一定會知道我們的人少，對我們不利。不如等待敵人前來進攻，尋找機會消滅敵人。”果然，幾天後，唐軍見到周軍沒有動靜，便向六合進發。趙匡胤伏兵突起，唐軍頓時亂成一團，紛紛四散逃命。這一仗趙匡胤以2OOO人的軍隊俘虜了唐軍近5OOO人，以劣勢兵力殲滅了優勢敵軍的大部。
根據變化了的情況適時地調整作戰部署，是宋太祖用兵的又一特色。對北漢，他本想平定南方後再行進攻。但平蜀以後，他曾一度改變戰略，二次兵伐北漢。原來，這時北漢內部矛盾尖銳，劉繼恩被殺，劉繼元新立，是個出擊的良機。公元968年8月，趙匡胤派李繼勳兵進太原，因遼兵來救而還。第二年春，遼國又發生內訌，趙匡胤決定親征北漢，宋軍迅速地包圍了太原城。但由於太原守軍的頑強抵抗，同時契丹援軍被打敗兩次後複來，一時之下，太原城難以拿下。趙匡胤命令將宋軍占領區的北漢人戶全部遷往宋境內，以絕北漢兵源糧餉，然後主動撤圍。這一措施為後來宋太宗趙光義滅漢奠定了基礎。因為那時的北漢已處於“一戶養一兵”的困境中，劉繼元無力抵禦，被迫投降。
趙匡胤是一個生於亂世，雄起於行伍的封建帝王。他逐步消滅封建割據政權，解除了禁軍首領和藩鎮的兵權；派文官管理州郡，州郡的兵權和財權由朝廷掌握。這些措施加強並鞏固了專製主義中央集權的統治，結束了分裂混戰局麵，統一了中國。這是順應曆史發展要求的，在曆史上有一定的積極作用，對於他的功績，人們自然會給予正確評價的。