最初，趙匡胤有意先出兵翦滅北漢，平定北方後再舉兵南下，逐一除滅大江南北諸政權。為此他曾詢問宰相魏仁浦：“朕欲征太原（今屬山西），如何？”魏仁浦認為此舉會“欲速不達”①。他又征詢武勝軍節度使張永德“下並（治今山西太原）、汾（治今山西汾陽）之策”，張永德亦認為“彼兵雖少而悍，加之北虜（指契丹）之援，未可遽也。姑以間諜離虜心，設遊兵以擾其穡事，待其困弊，乃可圖耳”②。諸大臣反對趙匡胤先攻北漢之策，是考慮北漢雖距宋朝很近，威脅很大，然其背後有契丹相助，滅此政權並非易事，況且宋朝初建，國勢不強，力不從心。宋太祖見眾臣反對，遂與心腹謀士趙普商議。
趙普（922～992），字則平，幽州薊縣（今屬天津）人，後遷居洛陽（今屬河南）。後周時，他曾於趙匡胤帳下供職，初為軍事判官。趙匡胤出任同州節度使，他改任推官。其後趙匡胤移鎮宋州（治今河南商丘南），他又任掌書記，一直充任趙匡胤的高級幕僚和重要謀士。他積極參與、策劃了陳橋兵變，助趙匡胤黃袍加身，因而被授予右諫議大夫、樞密直學士。宋建隆元年（960），他力勸趙匡胤立即發兵平定李筠之亂，並自請隨禦駕扈從，因功得遷至兵部侍郎、樞密副使。同年，他再請趙匡胤速出兵平定李重進之亂，從而鞏固了宋朝的統治。三年，被擢升為樞密使、檢校太保。乾德二年（964），又替代範質任宰相，充門下侍郎、平章事、集賢殿大學士。其間，他為扭轉唐末以來節度藩鎮飛揚跋扈、君弱臣強的局麵，而建議趙匡胤收繳地方權力，深得賞識。正因如此，趙匡胤也常征詢他對朝廷大政方針及治國之術的見解。
趙匡胤常愛微服私訪大臣，故趙普每次退朝回到家中，不敢更換衣冠，依然身著朝服，以備皇帝突然來訪，不致失禮。一天深夜，漫天大雪紛飛，寒氣襲人。趙普以為趙匡胤必不會雪夜私訪，不料忽聽敲門之聲，他連忙開門，卻見趙匡胤正立於風雪之中。趙普忙行禮，將皇帝迎入屋中。趙匡胤告之趙普：“我已約晉王光義來你家中。”不多時，趙光義到。趙普侍奉他們坐定，便燒炭煮肉，又讓妻子為二人斟酒，趙匡胤親熱地以嫂相稱③，君臣飲酒談笑。
席間，趙普試探地問道：“夜久寒甚，陛下何以出？”
趙匡胤道：“吾睡不能著，一榻之外，皆他人家也，故來見卿。”
趙普又故意問道：“陛下小天下耶？南征北伐，今其時也，願聞成算所向。”
趙匡胤答道：“吾欲收太原。”
趙普沉思了許久，說：“非臣所知也。”
趙匡胤忙問其緣由，趙普慷慨陳詞道：“太原當西北二邊，使一舉而下，則邊患我獨擋之，何不姑留以俟削平諸國。彼彈丸黑子之地，將何所逃？”
趙匡胤聽罷，笑著對趙普說：“吾意正爾，姑試卿爾。”④趙匡胤雪夜訪趙普，最終奠定“先南後北”、“先易後難”的統一戰略，決定先用兵江南諸小政權，待統一南方後，再北上滅北漢，奪回遼占據的薊（治今天津薊縣）、幽（治今北京西南）、雲（治今山西大同東）等十六州之地。此後，宋廷密切注視江南諸政權的動向，設法尋找出兵的借口，捕捉戰機；並積極儲備糧草，招募精壯，修繕兵甲，操練兵士，隨時準備兵進江南。
早在建隆三年九月，占據湖南的武平節度使周行逢病危，臨終前，囑咐其子周保權，一旦發生變故，迫不得已時，可“自歸朝廷”⑤，即投降宋朝。周行逢死後，盤踞衡州（治今湖南衡陽）的張文表起兵，襲取潭州（治今湖南長沙）；又欲攻占周保權所在的朗州（治今湖南常德），企圖取而代之，獨霸湘湖地區。周保權一麵派楊師率兵抵抗，一麵派人北上向宋廷求援。
趙匡胤聞訊，即命山南東道節度使慕容延釗為湖南道行營都部署，樞密副使李處耘為都監，調集各路人馬，會師於襄陽（今屬湖北），以討伐張文表為名，出兵湖南。
宋軍進兵湖南，須途經荊南節度使、南平王高繼衝控製下的南平政權。此前宋朝使臣盧懷忠已偵知南平虛實，認為“高繼衝甲兵雖整，而控弦（即軍隊）不過三萬；年穀雖登，而民困於暴斂。南通長沙（今屬湖南），東距建康（今江蘇南京），西迫巴蜀（今四川），北奉朝廷（指宋朝），觀其形勢，蓋日不暇給，取之易耳”⑥。於是，趙匡胤又派使臣入南平，向高繼衝提出宋軍“假道”的要求。南平政權內部為此而爭論不休，高繼衝更是猶豫不決，束手無策，結果宋軍未及南平同意，已兵臨江陵（今屬湖北）。高繼衝見宋軍壓境，隻得出城迎接。宋軍不等他反應過來，其前鋒已衝入城中，“分據衝要，布列街巷”⑦。就這樣，宋軍兵不血刃，輕而易舉平定荊南，得三州、十七縣、十四萬三千五百戶。