這樣一來，宋朝成功地解決了藩鎮割據問題，為宋王朝的長治久安打下堅實的基礎，這是中國傳統社會發展到一定曆史階段在政治上走向成熟的又一個重要標誌。但由於對兵權問題的高度重視，在集中兵權與整頓軍隊後，軍權完全集中到了皇帝手中，但同時也造成了兵不知將，將不知兵，軍隊作戰要依皇帝欽定作戰方案來進行等等一係列弊端。在後來宋軍對遼、西夏的作戰中，兵權高度集中的弊端顯現出來，使得宋軍屢遭敗績，形成了積弱局麵。這又是趙匡胤、趙普當初在定計安天下時所始料不及的。
雪夜定策南征北戰
五代十國末期，人們要求結束分裂戰亂、實現安定統一的呼聲越來越高，統一的曆史趨勢已經形成。早在後周時期，趙匡胤作為周世宗的最得力助手，就曾協助周世宗在推進統一的軍事鬥爭中做出了很大的貢獻。現在，當他代周自立，並鞏固了自己的統治之後，自然就把完成中國統一的任務提到議事日程上來了。
從當時的客觀形勢看，剛剛立國不久的宋王朝周圍存在著幾個由外族所建立的敵對國家和許多由漢族所建立的割據政權。在北方有契丹族所建立的遼國，在西北有黨項族的強大勢力，夾在二者之間的則是割據山西一帶的北漢。北漢受到契丹的支持，與以前的後周和現在的宋王朝一直處於公開敵對的狀態。在江淮以南，則存在著南唐、吳越、後蜀、荊南、湖南、南漢、南平、漳泉等八個割據政權。雖然這些割據政權處於物產豐富、生產相對發達的地區，但由於其各自疆域狹小，又互不聯合，因而大都國力不武，軟弱怯懦，不得不向以前的後周和剛剛建立的宋王朝表示名義上的臣服或通好。
在這種形勢下，擺在趙匡胤麵前有兩條路，一是乘南方諸國名義上已表示臣服的時機，繼續周世宗的政策，進行北伐，收複被遼所占領的燕雲十六州領土，割斷遼與北漢的聯係，進而消滅北漢這一公開的敵對勢力，然後統一南方諸國；另一條道路則是南征，在完全征服了南方八個割據勢力以後，再來滅亡北漢，攻取燕雲十六州，將契丹趕回長城以北。趙匡胤想了幾天，還是決定不下來。
一天夜裏，風雪交加，趙普正在家裏烤火取暖，忽然聽得門外一陣敲門聲。趙普心裏奇怪，這麼寒冷的夜裏，還有誰會來找他？他打開門一看，隻見一個人披著鬥篷，在雪地裏站著。趙普定睛一看，大吃一驚，原來竟是趙匡胤。
趙普連忙把趙匡胤請進屋裏，撥紅了炭火，在炭火上燉上肉，叫他家人拿出酒來招待。
趙普問：“雪下得這麼大，陛下為什麼還要出來？”趙匡胤說：“臥榻之側，豈容他人鼾睡？而現在一榻之外，盡是他人地盤，我如何能夠安眠？反正睡不著，就來找你商量一下。”
趙普說：“陛下現在的還是小天下，南征北戰，統一中國，時機已成熟了。不知陛下打算怎麼辦？”趙匡胤顯出猶豫不定的樣子說：“我想先收複北漢太原。”趙普沉默片刻說：“這不是我所預料的。”趙匡胤忙問趙普所料為何，趙普想了一會兒，說：“太原地處南北之間，如果占為己有，那麼，遼兵南下之患就要由宋來獨擋了。如果暫留太原作北方屏障，等平定南方諸國之後，再回過頭來打北漢，太原就會不攻自破。小小北漢，不過像彈丸一樣大，晚一點收拾也跑不了。”趙匡胤聽完，長籲了一口氣說：“朕早有此意，隻是未敢輕決，此來專為聽聽你的意見啊！”
後來，又經過君臣之間的反複論證，趙匡胤集思廣益，最後終於在建隆三年確立了“先南後北”的統一方針。
公元962年，割據湖南的周行逢病死了，他的兒子周保權繼位。大將張文表不服周保權，起兵反抗，割據潭州（今湖南長沙）。周保權派人向宋朝求援。乾德元年（公元963年），趙匡胤任命慕容延釗為湖南道行營都部署，李處耘為都監，率安、複等10州的州兵出兵荊湖。臨行前，他對慕容延釗和李處耘說：“出征湖南，必然要借道於南平，南平國勢卑弱，可順便將其攻滅。”慕容延釗等依計而行，於同年二月出兵湖南途中攻破江陵（今湖北江陵），高繼衝遂以3州17縣、142300戶歸降。1個月後，湖南亦被平定，又得14州1監66縣，97380戶。
平定荊湖以後，“水陸皆可趨蜀”，後蜀這一雄踞川中的南方大國已處於坐以待斃的境地了。乾德二年（公元964年）十一月，趙匡胤派大將王全斌、曹彬兵分兩路向蜀地進攻。這月汴梁大雪，趙匡胤在講武堂設壇帳，穿著紫貂裘帽視事，忽對左右說：“朕被服如此體尚覺寒，念西征將士，衝犯霜霰，何以堪此？”於是解下紫貂裘帽，遣太監飛騎趕往蜀地賜給王全斌，且傳諭全軍，以不能遍賞為憾事。於是宋軍人人奮勇，十四萬守成都的蜀兵竟不戰而潰。僅用66天的時間就滅亡了後蜀，取得了46州、240縣的廣大領土。