趙匡胤在消滅國內反對勢力之後，宋王朝的統治日趨鞏固，消滅割據勢力以統一中國的曆史任務，便提到日程上來。當時北方有軍事強國遼國和它的親密盟國、太原的北漢政權；南方有金陵 (江蘇南京)的南唐，杭州的吳越，成都的後蜀，興王府(廣東廣州)的南漢，朗州(湖南常德)的武平，江陵的南平，以及漳、泉等地方割據政權。應將主要進攻方向先指向何處，這是製定統一戰爭戰略的核心問題。趙匡胤在廣泛地聽取了主要謀臣和將、相的意見後，決定采用先南後北、即先弱後強的戰略方針。他說：“中國自五代以來，兵連禍結，帑藏空虛，必先取巴蜀，次及廣南、江南，即國用富饒矣。河東(指北漢)與契丹接境，若取之，則契丹之患我當之地。姑存之以為我屏翰，俟我富實則取之”。
趙匡胤的這一戰略決策，基本上是周世宗柴榮所用王樸所獻“安邊策”的修正案。王樸則是繼承隋高潁滅陳策略而提出的。主張先南後北，“先易後難”，首先擊滅南唐。認為“得吳(指南唐)則桂、廣皆為內臣，岷蜀可飛書而召之”，“吳、蜀平，幽可望風而已”。王樸的這一方案，從先南後北來說基本上符合客觀實際，但從先攻南唐來說，則並不符合“先易後難”的原則。柴榮攻南唐三年，方奪得江、淮地區，而江南地區仍絲毫無損。沒有一定數量水軍，不占長江上遊之勢，要迅速消滅南唐是不容易的。趙匡胤跟隨柴榮，參加了南征北戰的所有戰爭，深知南唐不易輕取，所以才將王樸方案稍加修正成為“先取巴蜀”，“次及廣南、江南”，爾後再向北方的方案。
趙匡胤為保障南方的攻勢作戰，對北方采取了守勢。派軍分屯瀛州(河北河間)、常山(河北正定)、易州(河北易縣)、棣州(山東無棣)等地防禦遼國；分屯延州(陝西延安)、慶州(甘肅慶陽)、環州 (陝西環縣)、靈州(寧夏靈武)等地防禦黨項；分屯晉州(山西臨汾)、潞州、澤州等地防禦北漢；並“敕沿邊諸州，禁民無得出塞侵盜”，以與遼國維持互不攻擾的局麵。至開寶七年(974)，又主動與遼議和通好，以解除進軍南唐時的後顧之憂。基本上獲得了“累年無西北之虞，得以盡力東南”的效果。
建隆四年(963)，宋軍開始向南方進軍。首先以“假途滅虢”的策略，於當年襲並了荊南、湖南，消滅了武平、南平兩個割 據政權；乾德三年(965)，又以分進合擊戰術攻入四川，迫降了孟昶，消滅了後蜀割據政權；開寶四年(971)，再以聲東擊西的謀略進軍嶺南，迫降了劉張，消滅了南漢割據政權；由於趙匡胤早已用政治策略爭取了吳越王錢做，所以這時實力最強的南唐，已完全陷於孤立，處於戰略包圍之中，失去了長江天險。開寶七年(974)，趙匡胤認為時機已經成熟，於是五道出師，進攻南唐。首先令曹彬由荊南乘船順流而下，突襲長江南岸據點，占領橋頭陣地後，再以預製浮橋，在采石渡主力過江。以預製浮橋渡江，在古代軍事史上這是第二次，宋軍渡江後即包圍了金陵，次年十一月城破，李煜出降，南唐滅亡。至此，趙匡胤統一中國戰略的第一步，削平南方割據勢力的企圖，已經實現；第二步即將轉變戰略主要方向，將進攻矛頭指向北方。
趙匡胤對統一北方和收複燕雲十六州失地，極為重視。雖然他早已定下了先南後北的戰略方針，但當他自認為北方出現有可乘之機時，立即轉移主要方向，改用兵力於北。如開寶元年( 968)七月，北漢主劉鈞死，養子劉繼恩嗣位，內部矛盾加劇，政局不穩(不久，劉繼恩被刺死，其弟繼元代立)，趙匡胤認為是北進的良機。遂派李繼勳攻北漢，進至太原城下，但因遼軍來援，被迫撤回。次年，趙匡胤又率軍親征，包圍了太原。亦因遼軍來援不得不撤圍退回。經過兩次小挫之後，趙匡胤才又回到先南後北的軌道上來，專力先圖江南。
滅南唐後，朝臣請加“一統太平”尊號，趙匡胤沒有接受，他說：“燕、晉未複，可謂統一乎?”加緊作北伐的準備。開寶九年( 976)，派黨進等率軍進擊北漢，正當宋軍在太原城下大敗北漢軍之際，作為宋軍最高統帥的趙匡胤，突然去世，其弟光義即位(太宗)，下令撤軍。趙匡胤收複燕雲，統一中國的壯誌，終於未能在他生前實現，趙匡胤死時僅五十歲。
趙匡胤本是北周禁軍的最高統帥，又曾親曆了郭威以兵變代後漢，自己以兵變代後周的重要曆史事件，深知兵權的重要意義，同時也理解了“天下自唐季以來，數十年間，帝王凡易八姓，戰鬥不息，生命塗地”的根本原因，是“方鎮太重，君弱臣強”，也就是軍人兵權太重。所以在他登上皇帝寶座之後，為了永保皇權和安定政局，曾采取了一係列的措施，將軍權集中到王朝中央，集中到皇帝手中來。其中最主要的有以下三項。
罷宿將以解除潛在威脅
北宋王朝建立之初，統帥禁軍的高級將領，都是過去在陳橋兵變中擁戴趙匡胤黃袍加身的宿將。他們雖然和趙匡胤利害一致，同屬一個權勢集團，並有不少人是趙匡胤的好朋友或義社兄弟，但從保障趙氏皇位的角度來看，他們卻正是趙匡胤子孫皇位的主要潛在威脅。這從趙普與趙匡胤的一次對話中可以清楚地看出來，趙匡胤欲用宿將“符彥卿典兵”，趙普認為，“不可複委以兵柄”，趙匡胤說“朕對彥卿至厚，彥卿豈負朕也?”趙普說“陛下何以負周世宗”?趙匡胤恍然大悟。為預防陳橋兵變的重演，他設法免去了宿將們的禁軍軍職。史籍上有“杯酒釋兵權”的記載，對趙匡胤的思想和手法，敘述得極為生動和準確。據說趙匡胤一日“與故人石守信、王審琦等飲酒酣，‘上屏左右謂曰：我非爾曹之力不得至此，念爾曹之德，無有窮盡。然天子亦大艱難，殊不若為節度使之樂，吾終夕未嚐敢安枕而臥也。’守信等皆曰：‘何故?’上曰：‘是不難知，居此高位者，誰不欲為之!’守信等皆頓首曰：‘陛下何為出此言?今天命已定，誰敢複有異心?’上曰：‘不然，汝曹雖無異心，其如汝麾下之人欲富貴者何?一旦以黃袍加汝之身，汝雖不欲為，不可得也。’皆頓首涕泣曰：‘臣等愚不及此，惟陛下哀憐，指示以可生之途。’上曰：‘人生如白駒之過隙，所以好富貴者，不過多積金銀，厚自娛樂，使子孫無貧乏耳。汝曹何不釋去兵權，擇便好田宅市之，為子孫立永久之業，多置歌兒舞女，日飲酒相歡以終其天年。君臣之間，兩無猜嫌，上下相安，不亦善乎。’皆再拜謝恩：‘陛下念臣等及此，所謂生死而骨肉也。’明日皆稱疾請解軍權。上許之”。由於趙匡胤手中掌握有強大的軍事實力，所以這種以經濟特權換回兵權的作法，可以為宿將們所接受，大家心中都很明白，既然趙匡胤已經下定收回兵權的決心，除非敢於造反，否則別無出路，隻能主動交出兵權。宿將們交出兵權後，趙匡胤任用一些資曆較淺，容易駕馭的將領統領禁軍，並使他們直接聽命於自己，將禁軍大權，完全置於自己的控製之下。
廢藩鎮以消弭叛亂根源
趙匡胤罷宿將兵權，解決了中央禁軍的控製權問題後，即開始解決地方藩鎮的權勢太重的問題。他從削弱藩鎮的權力入手，逐步達到盡廢藩鎮的目的。其具體措施大致有四：其一，“收其精兵”。派人去各地挑選精兵，將藩鎮軍中的精壯驍勇之士，選送京師，編入禁軍。這既可加強中央禁軍的實力和戰鬥力，又能削弱地方藩鎮的實力和戰鬥力，一舉兩得。其二，“除藩鎮留州之法”，使地方一切財政收入，俱輸中央，“粟帛錢幣鹹聚王畿”。也就是去消藩鎮的財權，使其無法利用地方經濟力量對抗中央。其三，將地方兵權劃歸各州，使各州直隸朝廷，節度使遂變為虛銜。其四，以文臣知州事，甚至任邊防大帥，以減少他們造反的可能性。
定軍製以保證長治久安
趙匡胤為了趙宋王朝統治的長治久安，他還創建了新的軍事體製，以法律和製度保障軍權永遠集中在趙氏王朝中央及皇帝手中。趙匡胤所創軍製的主要特點有四：其一，帶兵、發兵、用兵三權分離。趙匡胤在中央設樞密院，掌握“天下兵籍、武官選授及軍師卒戍之政令”，是國家最高軍事機關。長官為知樞密院事及樞密副史等，參與製定國家戰略，掌握發兵、調兵大權，但他們一般皆為文官，而且手下並無一兵一卒。平日統兵的中央機關，為殿前司、 侍衛親軍馬軍司和待衛親軍步軍司，簡稱三衙。各司長官為都指揮使及副都指揮使，一般皆為武將，分領中央禁軍。但他們都沒有發兵、調兵之權。一旦發生戰爭，也並不一定由三衙長官率軍出征，而是由皇帝臨時指派統帥。史稱這種製度是：“樞密掌兵籍、虎符，三衙管諸軍，率臣主兵柄，各有分守。”後人則說趙匡胤“製兵之法：天下之兵，本於樞密，有發兵之權，而無握兵之重；京師之兵，總於三帥，有握兵之重，而無發兵之權，上下相維，不得專製，此所以百三十年無兵變也。”這種權力分離，互相牽掣的製度，使樞密院和三衙的長官，都不能對皇權構成威脅。至於指揮作戰的統帥，在戰事結束後，立即解除兵權，也難以成為皇權的威脅。其二，“強幹弱枝”，“內外相製”。趙匡胤將國家正規軍分為禁軍、廂軍兩種。禁軍是中央直轄軍，不僅護衛宮禁和京畿的安全，而且要戍守州郡和保衛邊疆，擔負著對內鎮壓、對外防禦和征戰的任務；廂軍則是原來諸州的鎮兵，壯勇者被選送禁軍後，剩下的多為非精銳，由地方長官統轄。禁軍與廂軍雖同為國家正規軍隊，但強弱不同。所以後人稱這種製度為“強幹弱枝”。”禁軍是趙匡胤維持其統治的主要支柱，當時共約二十二萬。趙匡胤在兵力部署上，采取了京師和地方各一半的方法。以京師的十多萬禁軍，足以控製外地分屯的禁軍；合外地分屯的十多萬禁軍，又足以抵擋在京的禁軍，這種在“強幹弱枝”基礎上的內外兵力相對平衡，後人稱之為“內外相製。”其三，實行“更戍法”。趙匡胤規定駐屯京師和分屯邊疆、各地的禁軍，定期變換駐地和任務。一般三年一換但統兵將領常駐防地，並不隨士兵行動。史稱這種製度為更戍法。實行更戍法的目的，有雙重意義。從軍事上說。可以使基層官兵“均勞逸，知艱難，識戰鬥，習山川”，以鍛煉部隊；又可以使統兵將領熟悉自己防地的山川險阻、交通狀況、城塞設施，人力物力以及氣象條件、風俗人情等各種情況，平時既可以預製出符合實際的各種作戰方案，遇事又可以快速反應、及時作出恰當的處置，以提高將領的指揮才能。從政治上說，則可以得到“將不得專其兵，兵不至於驕 惰”的效果。以防止兵與將領或軍隊與地方勢力結合反抗中央。其四，實行募兵製。趙匡胤接受周世宗柴榮整頓軍隊的經驗，主張精兵主義。為確保禁軍成員素質優良，他主要以召募辦法補充兵員。趙匡胤規定對應募人員，“先度人材，次閱走躍，試瞻視(查視力)，然後贍麵(刺字臉上)，賜以緡線。衣屨，而隸諸籍。”在召募對象上，趙匡胤主張召破產農民，以便使潛在的反抗因素，轉化為維持其封建統治的現實力量。
通過上述各種措施，軍權高度集中到趙匡胤手中。從曆史上看，是空前的。而這種軍權的集中，又是加強皇帝專製統治的重要保證。所以可以說，趙匡胤是我國曆史上集中軍權最徹底的專製皇帝之一。
趙匡胤一生的軍事活動，最主要的有兩件事：一是進行了削平割據勢力的統一戰爭，一是建立了高度集權中央的軍事體製。由於他在尚未收回燕雲地區之前即突然去世，而他去世之後，宋王朝在對外戰爭中又常吃敗仗，所以後人對他的先南後北戰略和加強軍事集權措施，就有了不同的看法。雖然毀譽不一，但指責其消極一麵的則占多數。現僅從軍事角度，簡單地提出一點看法。
“先南後北”，是指導統一戰爭走向勝利的正確決策