乾德二年十一月，趙匡胤下令從東、北兩個方向對占據川蜀的後蜀王朝發動攻擊。僅僅用了兩個多月時間便擊潰了後蜀軍隊的抵抗，後蜀皇帝孟昶開城投降，後蜀滅亡。
開寶三年九月，趙匡胤下令北宋軍隊從湖南出兵，討伐占據兩廣的南漢王朝。短短的四個月時間，宋軍便一路深入南漢境內，兵臨南漢都城廣州。開寶四年二月，南漢後主劉倀開城投降，南漢王朝滅亡。
僅剩南方的南唐、吳越、平海軍，以及北方的北漢尚在割據，陳洪進內心十分不安，謙遜恭敬地向宋王朝進貢豐厚禮品，以維持自己在平海軍的統治。
而軍事最為強大的南唐國，自李煜繼位以來，南唐的綜合國力日益衰落，但武昌節度使林仁肇仍主動向李煜獻上收複淮南的計策。淮南一帶爆發李重進叛亂後，趙匡胤曾經把淮南的大量兵力調離，使得淮南一帶的防禦比較薄弱。林仁肇便不斷上表李煜，要求帶兵北伐，收複淮南失地。
為了不連累李煜，林仁肇想了一個萬全之策，讓自己假裝率兵發動叛亂，然後攻打淮南，如果攻打淮南成功，那麼整個淮南便會重新回到南唐手中，如果攻打淮南失敗，那麼李煜便可以謀反之罪處死林仁肇。李煜嚇得根本不敢答應，唯恐會牽連自己。
趙匡胤得知了林仁肇的計劃之後，對林仁肇十分痛恨和忌憚，決定采取策略幹掉林仁肇。趙匡胤通過賄賂林仁肇的左右隨從，得到了林仁肇的畫像，並懸掛於一間空的公館內。
開寶五年二月，李煜派遣弟弟李從善率使團出使宋國，趙匡胤便帶領李從善等南唐官員對懸掛林仁肇畫像的公館進行參觀。當大家驚訝地看到林仁肇的畫像時，趙匡胤連忙解釋，畫像上的這位名叫林仁肇，這個公館就是賞賜給他的。使團回國後，將此事回稟李煜，李煜開始對林仁肇產生猜忌，最終殺害了林仁肇。
借李煜之手幹掉了林仁肇，趙匡胤很滿意，於是決定先禮後兵，詔諭李煜入朝見麵。但李煜卻以各種理由百般推脫，就是不肯前去開封。
趙匡胤沿用後周大臣王樸製定的《平邊策》的統一戰略，已經完成了一半，下一步就要拿李煜開刀了。雖然李煜待自己如父，但趙匡胤不是耶律德光，耶律德光鼠目寸光好打發，趙匡胤要的是統一，而不是李煜的謙卑。其實即使李煜敢對趙匡胤耍橫的，他也沒這個條件。
此時南唐隻占有長江以南中下遊地區和江西，北、西、南三麵有宋朝大軍虎視眈眈，東麵有向宋稱臣的吳越和泉州，四麵受敵。雖然李煜在位時間和三國吳後主孫皓很相似，但孫皓至少還保有大半江南，李煜就這巴掌大的地方，加上宋朝強大的實力，換誰也沒辦法。
李煜當政十多年來，對外屈膝，對內享受，剛即位時對老百姓的那點“關愛”早飛到爪哇國去了。朝中在職的多是些屍位素餐的“文學家”，國事已經不可逆轉。內史舍人潘佑對此痛心疾首，上疏大罵李煜：“過去夏桀殷紂吳孫皓自取滅亡，為史所笑。現在陛下還不如他們，臣不願和朝中那些畜牲共事，更不願意侍奉陛下這個亡國昏君！”
李煜見疏大怒，中書舍人和潘佑不和，在李煜麵前煽火，李煜派人去拿潘佑。潘佑早知道自己不會有好果子吃，痛哭一場，然後自刎身亡。潘佑那道奏疏中把皇帝和大臣全都臭罵了，但唯獨認為司農卿李平有才可以大用，希望李煜能讓李平當尚書令。眾人被潘佑罵急了，見潘佑死了，就把怒火射向了李平，紛紛在李煜麵前抵毀李平，說李平和潘佑結黨營私，李煜便把李平投到獄中，李平不久也死在獄中。
開寶六年四月，趙匡胤派翰林學士盧多遜以賀壽為名出使金陵，探探江南形勢。盧多遜為人“狡黠”，先耍出手段糊弄李煜，說什麼隻要李煜好好侍奉大宋便相安無事。李煜居然信他這個，盧多遜回去前，騙李煜說：“我朝天子準備重修天下圖誌，但現在就缺貴邦十九州的資料，煩請國主方便則個。”