趙匡胤效法郭威、重演黃袍加身的故伎後，領兵回到北京城，在朝的後周政府官員被武力所懾服，京城隨之安定。
但是，後周的其他地方割據勢力對越匡胤非法奪權和行為多有不服。在上黨一帶非法占據多年的李筠，首先出來進行武力對抗，趙匡胤親率大軍前往鎮壓。在趙匡胤強大的攻勢下，李筠的反對武裝很快便被殲滅。
公元960年9月，後周的準南戰區軍事長官李重進又在揚州起兵滋事，趙匡胤再次親征。2個月後，一心想光複周帝國的李重進便被趙匡胤斬殺。那些擁兵自重的後周地方勢力見趙匡胤實力確為強大，隻好臣服。
趙匡胤自黃袍加身後，不到一年的時間，後周的舊勢力全都臣服於他的拳頭之下，同時新的問題也接踵而來。
這天，趙匡胤跟他的心腹謀臣趙普研究，如何才能解決五代以來的弊端？通過何種方法才能更有效地來加強中央特權？
趙匡胤問趙普：“自唐末以來，是什麼原因戰亂不斷，隻數十年間，就一連串兒戲般的改朝換代？”趙普回答道：“方鎮太重，君弱臣強。惟一的辦法是收繳他們的軍權，多給些享樂。”並暗示趙匡胤應多提防石守信等幾名最親信的高級軍官。趙匡胤搖著腦袋說：“我待他們親如兄弟，他們都是有良心的。”趙普也搖著腦袋說：“後周皇帝柴榮待陛下你不也親如兄弟嗎，可你的良心哪去了？問題是，他們即使不會主動謀反，萬一部下貪圖富貴，也把黃袍披到他們身上，他們縱想不反，也是不可能的。”這使趙匡胤如夢初醒。
公元961年的一天，趙匡胤在宮中宴請石守信等高級軍官，當酒興正濃時，趙匡胤不住地慨歎道：“如果不是各位鼎力協助，趙某不會有今天。可是當帝王也太難了，遠不如以前當節度使時快樂。自當了皇帝以來，我每天都憂心忡忡，沒睡過一夜安穩覺。”大家都不明白，問什麼原因，趙匡胤說：“事情這不明擺著，這個位置誰不想坐？”大家慌忙站起說：“陛下為何口出此言，如今天命已定，誰還敢再有那種非分之心。”趙匡胤用眼睛巡視完在座的每一個後，說：“那也未必！縱然你們心無二意，如果忽然有一天，你們的部下將黃袍披在你們身上，你們就是不想坐這把椅子恐怕也不可能吧？”大夥這時才忽然發覺殺機四伏，酒意頓消，不由得魂飛天外，慌忙跪下，並請求指明方向。
趙匡胤是一個傑出的政治人才，他沒有做那種“狡免死，走狗烹”的蠢事。他說：“人生在世，轉眼就是百年，人活著，目的隻不過是升官發財，除自己享受外，還要給子孫後代立永恒之業。依我之見，各位不妨辭去軍職，改任高級文官，然後多置田地，修建豪華住宅，快快活活的過完這輩子。而且我還跟你們約定，世代通婚。這樣一來，君臣之間，兩不猜疑，上下相睦相安，各位以為如何？”趙匡胤的一番話，使眾將點頭稱是。
第二天，將軍們紛紛上書，聲稱自己有病，不能領兵征戰，要求解除兵權。
趙匡胤把辭職的將軍們，都掛上地方行政長官的頭銜，享有地方長官的一切尊榮，但是並無實權。接著，趙匡胤又以同樣有效的方法，解除了遺害千年的地方節度使的兵權，派文官代軍人管理地方行政，叫“知州”，然後，趙匡胤又把禁軍最高級軍銜、殿前都點檢，副都點檢的職務撤銷。全國的兵權、財政和賞罰權收回中央，由此加強了中央集權製度。