宋太祖即位後不久，就有兩個節度使起兵反叛。宋太祖親自出征平定了叛亂。
經過這件事之後，宋太祖心裏總感到不安穩。有一次，他單獨找來趙普，對他說：“自從唐朝末年以來，接連更換了五個朝代，戰爭從來沒有停止過，不知道有多少老百姓死於非命，這到底是怎麼回事呢？”
趙普說：“道理很簡單，國家混亂，病症就出在藩鎮權力太大。假如把兵權集中到朝廷，天下就會太平無事了。”
宋太祖連連點頭，表示讚同。
幾天後，宋太祖在宮裏設宴，請石守信、王審琦等幾位老將聊天喝酒。
宋太祖趁酒酣耳熱之際，命令身邊的太監退出。他拿起一杯酒，請大家喝幹之後說：“我要不是有你們幫助，也不會有今天這個樣子，但是你們哪兒知道，做皇帝也有很多難心事，還不如做個節度使自在。不瞞你們說，這一年來，我就沒有睡過一夜安穩覺。”
石守信等人聽了很吃驚，連忙問這是什麼原因。
宋太祖說：“這不是明擺著嗎？皇帝這個位子，誰不眼紅呀？”
石守信等人聽宋太祖這麼一說，都驚慌失措，跪在地上說：“陛下為什麼這樣說呢？現在天下已經太平無事了，誰還敢對陛下不忠呢？”
宋太祖擺擺手說：“你們幾位我是信得過的，隻怕你們的部下當中，有人貪圖富貴，往你們身上披黃袍，你們想不幹，恐怕也不行吧？”
石守信等聽宋太祖這麼說，頓時感到大禍臨頭，連連磕頭，流著淚說：“我們都是粗心人，想得不周到，請陛下給我們指引一條出路。”
宋太祖說：“我替你們著想，你們不如把兵權交給朝廷，去地方做個閑官，置些田產房屋，給子孫留點家業，平平安安地度個晚年。我和你們結為親家，彼此毫無猜疑，這樣不是很好嗎？”
石守信等一齊說：“陛下為我們想得太周到啦！”
第二天，石守信等大臣一上朝，每人都遞上一份奏章，說自己年老多病，請求辭職。宋太祖馬上準許，收回他們的兵權，賞給每人一大筆財物，打發他們到各地去做節度使。曆史上把這件事稱為“杯酒釋兵權”（“釋”就是“解除”的意思）。
後來，宋太祖又收回了地方將領的兵權，建立了新的軍事製度，從地方軍隊挑選出精兵，組編成禁軍，由皇帝直接指揮；各地行政長官也由朝廷委派。這些措施出台實行後，新建立的北宋王朝穩定了下來。