公元960年初，趙匡胤在陳橋驛發動兵變，依靠他所統帥的禁軍的力量，奪取了後周的政權，改國號為宋，曆史上稱為北宋。他就是宋太祖。歸朝廷直接指揮的禁軍，乃是宋朝軍隊的主力。宋初全國兵力有三十七萬多人，其中禁軍就有二十萬。
當時禁軍高級將領有慕容延釗、石守信、王審琦、高懷德、張令鐸、趙彥徽等人。這些人有的是趙匡胤的親信。有的是趙匡胤的“結拜”兄弟，有的是直接參與在陳橋驛擁立他稱帝的“功臣”都掌握著一定的兵權。另外，還有一些地方的節度使是後周的殘餘力量，也擁有重兵。
宋太祖當了皇帝沒多久，就有兩個節度使李筠、李重進起兵反抗。他親自出征，好不容易才平定了叛亂。回到京城後，宋太祖心裏總是不太踏實，暗自想：“自己所以能登上皇帝的寶座，是由於掌握了兵權。現在的幾個大將和節度使也都兵權在手，說不定有一天他們也會效仿自己當年那樣，把自己的皇帝寶座搶奪過去。或者即使現在他們不能這樣，誰能擔保以後他們不會這樣做呢？他思來想去，越想越感到問題的嚴重，心緒煩亂，坐立不安。不知如何是好。
一天，宋太祖把心腹謀臣趙普叫到宮中，對他說了自己心事。趙普低頭沉思了片刻，然後給宋太祖出了個主意，宋太祖聽了連連點頭。
這是個秋天的傍晚，月涼如月，菊送幽香。宮殿之上，燈火通明，觥籌交錯。酒過三巡，宋太祖命令在一旁服侍的太監退了出去。他端起一杯酒，請在座的各位幹杯，眾人應和，齊呼萬歲。看大家喝完放下杯子，宋太祖假惺惺地說道：“我之所以能有今日，多虧在座各位兄弟相助。可自從登上皇帝寶座，我感到還不如從前做節度使時活得逍遙自在。今天我要對大家說句心裏話，這一年多來，我從來沒有一天睡過安穩覺。”
石守信等人聽了這番話感到十分奇怪，一個個忙站起來問什麼原因。宋太祖歎了口氣，說：“這還有什麼不明白的！皇帝這個位置誰不眼紅呢？”
眾將領聽了，明白宋太祖擔心他們懷有反叛之心，石守信說：“陛下何出此言？如今叛逆已除，天下安定，誰還敢有異心？”
宋太祖搖了搖說，接著說：“我知道眾位兄弟忠心耿耿，決不會幹謀反的事情。可是，”他停頓了一下，“盡管你們沒有異心，但若有部下貪圖富貴，一旦把黃袍加在你們身上，你們不想幹，能行嗎！”
眾人聽到這裏，頓時都嚇得渾身冒出了冷汗，隻見他們一個個慌忙跪了下來，石守信等流著淚說：“我們是些粗人，沒有想到這一層。經陛下明示，深感不安，懇請陛下開恩，給我們這些與您生死患難的兄弟指一條明路。”
宋太祖見時機已到，這才不緊不慢地說：“人生如白駒過隙，何不多積金銀，享樂人生，留福子孫呢。我也是為你們著想，你們不如放棄兵權，到地方上去置買最好的田地，建造華美的住宅，為兒孫們多備些產業，自己也多置歌舞伎樂，飲酒作樂享受一輩子。這樣，我們君臣之間也就互不猜疑相安無事嗎？”
大家聽後，知道宋太祖心中主意已定，隻能如此了，便紛紛隨聲附和、叩頭謝恩道：“這正是我們求之不得的好事，多謝陛下替我們想得周到！”
酒席之後的第二天，慕容延釗、石守信等人就上奏表稱病，乞求解除兵權。他們名義是出守外地，當節度使，其實各地方的軍事都已歸各州統轄，節度使成為無權的虛銜。
就這樣，宋太祖不費吹灰之力，就收奪了高級將領的兵權。然後，他又采取一係列的措施，加強軍權的集中。他取消了禁軍的三個高級將領職位，改由職位較低的將領統轄，稱為“三衙”或“三司”，負責平時的管理、訓練，但無權調遣軍隊。禁軍隻有皇帝才能指揮，防止有人利用禁軍，發動政變。又從地方各州和地方軍中挑選精壯兵士充實禁軍，加強中央直屬部隊的戰鬥力，使地方軍成為沒有作戰能力的掛名部隊。
宋太祖還改用文臣充當武將，武將調離軍職。他曾經十分得意地對趙普說：“我現在派了一百多個文人擔任地方軍事官，就算都去貪汙，也不及武將的十分之一”。
屯駐在各地的禁軍，將帥也不固定，都由朝廷任命。各地部隊經常流動。造成“兵無常帥，帥無常師”、“將不識兵，兵不識將”。一旦發生戰爭，將帥由皇帝臨時委任，作戰方案都由皇帝親自製定。將領作戰隻能按照皇帝的指示和所給的陣圖行事。這些措施目的都是為了把軍權集中在皇帝一人手中。其後果卻束縛了將帥和士兵的手足。北宋王朝在與遼、西夏的軍事鬥爭中，屢戰屢敗，經常處於被動和不利的地位，這也是一個重要的原因。