次年正月，趙匡胤下令大赦天下，改元建隆，仍定都於開封。因他曾於宋州（治今河南商丘）出任過歸德軍節度使，故以“宋”為國號，史稱北宋。其後，趙匡胤對有功官吏將士，分別封官授爵，給予賞賜：以石守信為歸德軍節度使、侍衛親軍馬步軍副都指揮使，以王審琦為泰寧軍節度使、殿前都指揮使，其餘禁軍諸將領亦分授官職，並兼領節度使。朝廷各重要官署機構均重新任命長官，從而建立起宋朝的統治秩序。與此同時，他又遣使向各地郡縣、藩鎮通報稱帝換朝之事，希望他們改弦易轍，歸順宋朝。
趙匡胤發動陳橋驛兵變，黃袍加身，很快激起原後周一些藩鎮首領的反抗，其中主要有占據上黨（今屬山西）的李筠和盤踞淮南的李重進。
後周昭義軍節度使李筠經營上黨長達八年之久。他在自己的統轄區域內，擅自征收賦稅，招集亡命之徒，頗具一定實力，以至於後周朝廷亦曾感到李筠“倔強難製”⑨。得知趙匡胤稱帝代周，他遂積極準備舉兵反宋。宋建隆元年（公元960）四月，李筠勾結北漢，發動叛亂。消息傳入宮中，趙匡胤果斷決定速戰速決，以“服天下之心”⑩，鞏固剛剛建立的宋朝統治。為此，他一方麵令石守信領兵前去上黨征討叛軍，一方麵又令昭化軍節度使慕容延釗、彰德軍節度使王全斌率軍出東路，以策應石守信。李筠自以為宋軍將士多與自己是舊友故交，必會念舊情而臨陣倒戈，因此掉以輕心，未作認真設防。宋軍與叛軍一交鋒，即發起猛攻，全然不念舊友故交之情。首戰於長平（今山西高平西北），大敗叛軍。隨後，宋軍幾路並進，步步緊逼。趙匡胤親臨前線指揮各路人馬圍殲叛軍。石守信會同江寧軍節度使高懷德於澤州（治今山西晉城境內），再大破李筠軍主力，擒獲叛軍大將範守圖，殺戮北漢降兵數千。李筠率殘部逃入澤州城中。宋軍團團圍困城池，連續攻城數十日，終於破城。李筠知大勢已去，投火自盡。其子李守節獻上黨降宋，李筠的反宋叛亂被平定，北方的局勢得到控製。
後周淮南節度使李重進為周太祖郭威的外甥，權勢顯赫。周世宗柴榮在位時，李重進曾一度與趙匡胤分掌朝廷內外兵權；後領命出鎮淮南，坐鎮揚州（今屬江蘇）。陳橋兵變後，趙匡胤即令韓令坤接任其侍衛親軍馬步軍都虞侯之職，並令其移鎮青州（治今山東益都）。李重進十分清楚趙匡胤此舉旨在削奪自己的權勢，故而拒不從命，反而派遣親信翟守珣北上，準備與李筠結盟，南北夾擊剛剛建立的宋朝。然而翟守珣非但未與李筠聯合，反入開封向趙匡胤陳述此事。返回揚州後，他又勸說李重進“養威持重，未可輕發”，致使李重進未敢貿然起兵反宋。李筠兵敗身亡後，李重進自感大禍臨頭，決意孤注一擲。九月，他於揚州發動叛亂，並派人入南唐求援。不料，南唐主李璟恐引火燒身，不肯派兵相助，李重進陷入“內乏資儲，外無救援”的窘困境地之中。趙匡胤先遣石守信統軍南下征討。十月，又率兵親征。宋軍浩浩蕩蕩沿汴河南下，直抵淮河北岸。李重進不甘心束手待斃，嚴令兵士作殊死抵抗，妄圖阻止宋軍渡河南下。石守信指揮宋軍強渡淮河，發起猛攻，叛軍潰敗而逃。宋軍迅速包圍揚州。十一月，揚州城破，李重進舉家自焚而亡。宋軍入城，盡殺叛軍，淮南地區隨之得以平定。
在李筠、李重進被平定前後，原後周地方藩鎮政權，雖亦不滿趙匡胤以兵變取代後周，可又懼怕宋朝的兵威，自感無力與之抗衡，隻得聽命歸順。趙匡胤對此采取恩威並重的策略，一方麵仍名義上保留其藩鎮，允許留駐原地；但同時又派監軍入其藩鎮，行使職權。原後周成德軍節度使郭崇時常為後周的覆滅而悲哀流涕，但當監軍陳思海到任，他也隻好強忍悲痛，表示擁戴宋廷。原後周保義軍節度使袁彥得知趙匡胤代周後，日夜整修軍械，操練兵士，欲對抗宋廷。然而宋廷派潘美前去監軍，並令他入朝時，袁彥也不得不俯首帖耳，單騎赴京城。周太祖郭威妃楊氏之弟、原後周建雄軍節度使楊庭璋曾與李筠關係密切，時有往來，當趙匡胤調其改任定難軍節度使，令他入居開封時，亦絲毫不敢拒命。