解決了與後周舊臣的矛盾後，趙匡胤又掉過頭來，將矛頭對準擁立有功，且手握重兵的大將們。趙匡胤深知，五代時期之所以會出現那種朝代更替，不暇稍息的現象，與其說是因為皇帝太弱，不如說是因為臣屬太強。特別是那些領兵大帥，依仗手中的兵權，篡位弑主，易於反掌，是威脅皇權的最大勢力。為了確保統治的穩固，趙匡胤決心采取更為積極的措施，收奪禁軍將帥的兵權。有一次，趙匡胤把趙普找來，單獨談話。開口就問他：“自唐末以來，五代更迭，征戰不斷，不知道死了多少老百姓。為什麼會發生這樣的情況？”趙普說：“道理很簡單。國家混亂，毛病就出在藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平。禁軍大將石守信、王審琦兩人，兵權太大，還是把他們調離禁軍為好。”趙匡胤說：“你放心，這兩人是我的老朋友，不會反對我。”趙普說：“我並不擔心他們叛變。但是下麵的將士如果鬧起來，隻怕他們也身不由己啊！”趙匡胤一拍大腿說道：“幸虧你的提醒。”
公元961年的一個夏夜，趙匡胤將石守信、王審琦等禁軍高級將帥留下，設便宴招待他們。待酒酣耳熱之際，趙匡胤屏退左右，長歎了一口氣，說道：“如果沒有你們的出生入死，鼎立輔助，也就沒有我今天這個天子。可我今天做了這個天子，又覺得做天子也太難了，遠不如作節度使時快樂。自做了天子後，我從沒有睡過一夜安穩覺。”石守信等人忙問：“陛下為何事如此憂慮？”趙匡胤說：“這還不明白，皇帝的位子，誰不想坐！”石守信等人聽話中有話，又問：“陛下為何口出此言，如今天命已定，誰還敢再有二心？”趙匡胤苦笑著說：“你們雖然沒有異心，可如果你的手下有那麼一天，將黃袍披在你們身上，你們就是不想當這皇帝怕也不行吧？”眾將聽了，不由大吃一驚，急忙跪下哭泣道：“請陛下給我們指條生路吧。”趙匡胤見時機已到，便說：“你們不如將兵權交出來，然後我給你們高貴的官職和大批的賞賜，你們再買上一批好田宅，為子孫們留下一份產業，家中多置一些歌妓舞女，天天飲酒作樂，我也與你們互相結為親家，君臣之間就再也不用互相猜疑，君臣和睦相處，這該有多好！”石守信等人聽了這話，不管心裏有什麼想法，都急忙跪下向趙匡胤謝恩。第二天，他們都上書稱自己有病，不適宜領兵征戰，要求解除兵權。趙匡胤十分高興，對他們賞賜安撫一番後，隨之宣布免去石守信、高懷德、王審琦、張令鋒、羅彥環等人的禁軍職務，讓他們到地方州郡去作節度使。這就是曆史上的“杯酒釋兵權”。
“杯酒釋兵權”後，趙匡胤將禁軍掌握完全在自己的手中，並選拔了一批資曆較淺的後輩武將擔任官職，使其難以在禁軍中形成根深蒂固的勢力。
五代十國末期，全國在四分五裂。北有依附契丹的北漢，南有南唐、吳越、後蜀、荊南、湖南、南漢、南平、漳泉等八個割據政權，嚴重威脅北宋王朝的安全和宋初中央集權的鞏固，並且，要求統一的呼聲日漸高漲，趙匡胤也有一統天下的雄心壯誌。可是，麵對這些強弱不一的割據政權，計劃統一天下的趙匡胤也有些一籌莫展。起初，太祖打算先攻北漢，但遭到群臣的反對，這種反對是有根據的，當時北宋和北漢及遼的軍事力量對比非常懸殊，要想先攻實力遠勝於自己的北漢及其靠山遼國，確實失策。
一個雪夜，在家休息的趙普，迎來了一個貴客趙匡胤。趙匡胤進屋後，心情沉重地說：“我睡不著，所以想來和你聊聊，你覺得我是不是不應該先攻取北漢？”趙普沉默了良久，然後說：“北漢盤踞在太原地區，如果我們攻下太原，就要麵對強敵遼國，我們不如先征服南方諸國，占有富庶的根據地，再回過頭來解決北漢這塊彈丸之地。”這就是北宋初年著名的“先南後北”的戰略，即先消滅南方的幾個割據政權，後消滅北漢政權，避免在統一南方以前與遼國發生正麵的軍事衝突。
正當趙匡胤準備出兵的時候，湖南的武平節度使周行逢病故，其11歲的兒子周保權繼位。大將張文表起兵反對周保權，占領了潭州（今湖南長沙），並準備進軍武陵（今湖南常德〕。周保權連忙向北宋和荊南的高繼衝求援，當時荊南處在各割據國的包圍之中，國勢衰弱，兵力不足三萬。於是趙匡胤便上演了一場"假道滅虢"的話劇，製定了取道荊南，攻占湖南，一舉削平荊湖的戰略方針。
公元963年初，宋將慕容延釗、李處耘率領十州兵馬，進發荊南。臨行前，他對慕容延釗和李處耘說：“出征湖南，必然要借道於南平，南平國勢卑弱，可順便將其攻滅。”
兩位將領命向荊南進發，並派人先赴江陵向高繼衝假道。高繼衝聽後，立即召集部下商議。部下眾說紛紜，拿不定主意，會議散後，便召叔父高保寅密商。高保寅說道：“先準備牛羊、美酒，借犒師為名，探探宋營情況，再作決定。”高繼衝說道：“那就請叔叔走一趟了。”高保寅帶著事先準備好的東西，前往荊門犒師。兩位宋將善待高保寅，高保寅非常高興，立即稟報高繼衝，說宋軍並無他意。
當夜，宋軍以精銳部隊為先鋒，由李處耘率領直奔江陵。高繼衝得知，立刻來到城北十五裏處迎接。與高繼衝見麵後，李處耘告訴他：“慕容延釗將軍還在後麵，你可在這裏等候。”說罷，自己就率領大軍進入了江陵城。
不久，慕容延釗來到，高繼衝恭恭敬敬地陪著入城。回到江陵，高繼衝發現宋兵已經占領江陵的大街小巷，這才明白大勢已去，無可挽回，隻得順水推舟，將全境三州十六縣，盡獻給北宋。
在占領荊南後，宋軍繼續進發湖南，這時，周保權已殺了張文表，平定了叛亂，但宋軍還是
進入了湖南，周保權的部下沒怎麼抵抗，便投降歸順。至此，荊湖之地盡歸北宋。隨後，趙匡胤於公元964年年底，派大將王全斌、曹彬分兵兩路，僅用66天的時間就滅亡了後蜀。
平定後蜀不久，趙匡胤曾先後兩次進攻北漢，結果都以失敗而告終，並且還損失了大量的精銳和輜重。趙匡胤痛定思痛，及時進行自我批評，決定繼續實施“先南後北”的統一方針，於公元970年秋出兵攻取南漢。南漢以廣州為中心，割據嶺南兩廣地區達60年之久。在平定後蜀時，宋將潘美等就攻占了南漢的郴州，在接到趙匡胤滅南漢的命令後，潘美等立即出兵攻陷了賀州，隨之連克昭、杜、連、韶四州，大敗南漢軍十餘萬於蓮花峰下，並於公元971年春攻克廣州，南漢滅亡。
趙匡胤平定南漢後，準備揮師平定南唐。但南唐大將林仁肇卻讓他心存顧忌。這林仁肇對李煜忠心耿耿，足智多謀，曾屢次大敗吳越。因而趙匡胤想出一個絕妙的離間計，以除掉這個南唐最後的長城。
趙匡胤施行這條妙計時，頗費了一番周折。他首先是將奉哥哥李煜的旨意出使宋朝的李從善留在了汴京，一方麵是為了留作人質，另一方麵就是為了借李從善去實現離間計，因而李從善不得不留在北宋。李煜不知趙匡胤葫蘆裏麵賣的是什麼藥，而又骨肉情深，因此經常派使臣前往宋朝，到李從善的住處了解情況。從此南北雙方都頻繁派遣使者。
過了一段時間，趙匡胤命一名畫師扮作使臣，和其他使臣一同前往南唐。這位畫師技藝高超，而且記憶力極強，即使和他見過一次麵，他也能背著將你的肖像畫出，並且惟妙惟肖，栩栩如生。這位"使臣"來到南唐，見了林仁肇，回到汴京後，立即把林仁肇的相貌畫了下來，送到趙匡胤手中。趙匡胤便將畫像命人掛到館舍裏。
一天，李從善被一個廷臣無意中帶到館舍。見到林仁肇的畫像後，李從善驚異地問廷臣。
廷臣故意支支吾吾，廷臣又猶豫了片刻才說道：“閣下已在汴京待這麼長時間了，我就對你說實話吧。”皇上愛惜林仁肇的才幹，特地寫信給他，令他前來，他答應歸附皇上，一時不便行動，就派人送來這畫作為憑證。皇上準備把此館賜給林仁肇，待他來到汴京，直接去擔任節度使的官職。李從善聽後便將這一情況派使者報告李煜。李煜大怒，當即傳召林仁肇，問林仁肇是否接受過宋詔。林仁肇被問得有些丈二和尚摸不著頭腦，但感到問題相當嚴重，盡管沒有承認，回答支支吾吾。因而李煜更加相信林仁肇已和北宋，便不動聲色地說：“愛卿不必擔心，因有人告發你，故朕向你問明一下，沒有我就放心了！”然後設宴擺酒，將林仁肇毒死。消息傳來，趙匡胤大喜，立即下令準備出征南唐。
公元974年秋，趙匡胤下令宋軍會同吳越國主錢弘俶統帥的吳越軍兵分三路，從北、南、西三麵向南唐進攻。
在宋軍進兵之前，南唐有個書生樊若水，因屢試不第，上書言事也沒被李煜理睬，決定北投大宋。他在采石礬以釣魚作掩護，經過反複探測，精確地計算出長江的寬度、水深、流速等各種數據，然後向趙匡胤獻上在長江架浮橋之策。趙匡胤正愁北宋大軍無法渡江，見到樊若水。
馬上賜他為進士及第，封為讚善大夫，並按照他的設計打造戰艦，做好了渡江的準備。當總攻發起後，江北宋軍通過采石磯浮橋，渡過長江天塹。李煜根本沒想到能在水深江闊的長江上搭橋。等他發現時，國都金陵已處於宋軍的重重包圍之中了。
在李煜仍不投降的情況下，宋軍攻陷了金陵城。李煜在宮內堆積了一大堆柴火，發誓與社稷共存亡，到時赴火就義。可他又沒有自殺的勇氣。當曹彬率軍殺進宮時，為保命還是投降了。
滅南唐是趙匡胤統一南方的最後一仗，也是當時最大的一次江河作戰。這次戰爭中的“浮橋渡江”、“圍城打援”，是趙匡胤戰略部署中的得意之舉，也是古代戰爭史上的創舉。
公元967年，趙匡胤死去，宋太宗按照趙匡胤的既定方針，繼續對吳越和漳泉施加壓力，終於不動幹戈，迫使錢俶和陳洪納表獻土，歸降北宋，南方完全統一。隨後，宋太宗一鼓作氣，滅亡北漢，延續了數十年之久的分裂割據局麵終於結束了，除了遼所控製的燕雲十六州以外，漢族所聚居的中原地區和南方的廣大區域重新獲得了統一。
在南北用兵、統一全國的同時，趙匡胤還采取了一係列措施，鞏固和加強了專製主義中央集權，進而創立了一整套為其後代奉若圭臬的“祖宗家法”。
趙匡胤出生在五代十國群雄割據的年代，他非常清楚地方軍閥隻要擁有重兵，便可黃袍加身的無恥行徑，包括他自己，都是在擁有兵權後，方才篡位自立，進而取得天下。因此，趙匡胤在稱帝伊始，首先就是削奪手握重兵的將領和地方節度使的兵權，這個他已經通過“杯酒釋兵權”的方法加以解決，並派文官出任地方官吏，將兵權收歸中央。在任命文官為地方官吏的同時，趙匡胤又害怕這些地方官吏在當地呆的時間過長而擁有自己的勢力，因而又下令地方官吏在一個地方任職不得超過三年，隨後又收奪地方上的財權，要求各州除留有必要的經費外，其餘財賦中屬於貨幣的部分應全部送到京城，不得無故占留。
地方喪失了財權，自然也就無法屯兵自重了。趙匡胤為收地方精兵而創立的兵分禁、廂的製度，也為其後代一直沿襲下來，成為兩宋兵製中的一大特色。
在他看來，地方權力集中到朝廷，還沒有完全解決唐中期至五代以來"君弱臣強"的問題，因而進一步采取措施，削弱大臣的權力，使權力完全集中到自己一人手中。他采取的措施之一便是削弱宰相在朝廷中的地位，削奪相權。隨後又在百宮中推行“官、職分離，互相牽製”的任官政策。宋代官製中，“官”是品級，“職”是殿閣、館閣學士一類的榮譽稱號，亦沒有實際權力，隻有由皇帝或中書省“差遣”的臨時職務才是實職，即執行實際權力的職務。這種職、權分離，名、實混淆的任官體製，使任何官員都無法集權力、榮譽、威望於一身，權大者並不一定職高，望重者並不一定位顯，這就很難形成對皇權的威脅。同樣，即使是臨時“差遣”的實職，也是按照分權而相互牽製的原則進行安排的。
趙匡胤還在隋唐以來的科舉考試製度的基礎上加以繼承、改革和發展。並規定殿試不再有淘汰製度，隻要參加過殿試，都可以有做官的機會，並稱其為“天子門生”，即皇帝親自測試的人都拜皇帝為師，自稱是皇帝的門生。同時，趙匡胤還著力改變垂武輕文的舊風氣。下令修複孔廟，開辟儒館，沿用老學名儒，以勸勵教化。趙匡胤認為，亂世用武，治世用文，對進入朝廷的文臣再也不能隻是當作點綴擺設，而應切實發揮他們的作用。
隨著對文臣的重用，統治集團內部的那種畸形的文武關係得到了調整。原來那些驕橫跋扈，視文臣為無用，甚至一言不合就要“砍殺”宰相的武將們不但見了宰相都要恭恭敬敬地唱喏問候，而且自己也在趙匡胤的勸告鼓勵下，學著文臣的樣子讀起書來。
這樣，一方麵是調整中央與地方、君主與臣下的關係，使地方的行政、財政、軍事等等各方麵的權力不斷地向中央集中，最後又集中到皇帝一個人手中，形成了至高無上的君主集權製；另一方麵又開科取士，重文用武，廣羅人才，極力擴大這一專製統治的基礎。在統一大局已定的情況下，趙匡胤並沒有誌滿意得、忘乎所以，更沒有因此而驕逸放縱。這在皇帝中也是非常難得的了。
作為一代明君，趙匡胤的死卻成為曆史上的一大疑案，史家眾說不一，其中也有說是趙光義謀殺的。總之，趙匡胤之死，留下了千古之謎。不過，這樣也更增添了這個“宋祖”皇帝的神秘。
公元976年秋天，趙匡胤猝然死去，趙光義則順利地繼承了皇位。
風雲名將，王彥超拒太祖
王彥超（914—986），字德升，大名臨清（今河北臨西）人，為五代及北宋初年的著名將領。屢建戰功，聲名顯赫。官至右金吾衛上將軍，封邠國公，宋初率子孫遷居義烏鳳林鄉（今義烏市毛店鎮尚陽一帶）。
王彥超父王重霸，字定大，唐末跟隨黃巢起義，後又歸附於唐，授通奉大夫。907年，唐亡，朱溫在汴州（今開封）稱帝，改朝換代為梁，史稱後梁。基時，王重霸官居太子少傅，加尚書，後以光祿卿致仕。
後梁乾化四年（914），王彥超出生於大名府臨清。因從小受到家庭的影響，自幼就胸懷大誌，氣度不凡，製行卓越，時以匡濟天下為己任。
後梁龍德三年（923）四月二十五日，晉王李存勖在魏州稱帝，國號大唐，史稱後唐，建無同光，是為後唐莊宗。同年十月九日，後梁亡。
同光三年（925），莊宗派基第三子魏王李繼岌為都統，興旺同自洛陽出發，西征蜀國。時王彥超年僅12歲，就隨軍征戰了。李繼岌隻用了75天時間就平定了蜀國。第二年班師回朝至浹西渭南時，不料部將李嗣源謀反，莊宗被流矢所中而身亡。李嗣源即位，改元天成，史稱後唐明宗。此時李繼岌成了無國可投的流亡者。他的親信皆置主帥於不顧而四散逃命去了，唯王彥超始終緊跟不離，直至李繼岌遇害。