安重榮還有些氣節，又上表要求石敬瑭發兵攻打契丹，並說“天道人心，難以違拒，機不可失，時不再來”。安重榮看的倒是長遠，契丹剛剛得到燕雲地區，統治基礎很不牢固，漢人多不願受契丹人統治。即使出兵不能消滅契丹，重新奪回十六州的可能性是很大的。可石敬瑭不聽。
泰寧軍節度使桑維翰擔心石敬瑭真的聽信安重榮的話，和契丹人決裂。便上書給石敬瑭，說：“契丹兵強馬壯，耶律德光是五百年一出的聖君，我們是打不過他的。陛下現在最需要做的就是要滅掉安重榮，不能讓這個禍害給我們中原添亂。”石敬瑭先是讓劉知遠去太原做河東節度使，在左路鉗製住安重榮，同時將原河東節度使李德統改任為鄴都留守，在安重榮的側翼敲進根釘子。
石敬瑭讓侄子鄭王石重貴留守東京，自己以巡幸為名來到鄴都，就近應對隨時可能發生的叛亂。讓石敬瑭沒有想到的是，他全力防備安重榮，哪知道最先造反的並不是安重榮，而是山南東道節度使安從進。安從進實力較弱，很快就被晉軍打敗，安從進走投無路，一把火把自己送上了極樂世界。安重榮聽說安從進反了，樂不可支，對左右說道：“石敬瑭不得人心，安從進這等奴才也能反，我為何不能？”便於天福六年年十二月，扯起大旗反了。
石敬瑭派出妹夫杜重威前去招呼安重榮。杜重威人品不怎麼樣，連劉知遠都恥於和杜重威同一級別。但杜重威運氣好，和安重榮部在宗城相遇，還沒等安重榮排兵步陣，他的手下趙彥之就帶著本部兵投降了杜重威。可晉軍看到趙彥之的部隊盔甲明亮，向自己衝過來，以為是叛軍過來挑戰的，杜重威下令反擊，結果把這部分叛軍全殲，叛軍大亂。杜重威大喜，狂呼一聲：“馬無夜草不肥、人無橫財不富。”率軍衝殺。叛軍軍心不穩，哪還有心思打仗，死傷二萬多。安重榮一邊罵著趙彥之忘恩負義，一邊帶著十幾個親兵逃回鎮州。
安重榮的本錢在宗城浪費光了，城中無兵，安重榮把老百姓都押到城上，脅迫他們守城。安重榮也是急瘋了，人數再多，也不過群烏合，指望平民能扳倒官軍，安重榮真是死到臨頭了。果然，晉軍如蝗蟲般撲到城下，杜重威下令攻城，其實不攻城，困也能困死安重榮，這時的安重榮已經是甕中之鱉，沒什麼反抗能力。城中的那些軍爺誰肯願意為安重榮盡忠，有人趁安重榮不備，打開城門放晉軍進來。晉軍立功心切，一通大殺，安重榮被活捉，押到杜重威麵前，杜重威一陣奚落，斬於城下，這時已經是天福七年。
搞定了安重榮，對其他蠢蠢欲動的地方實力派也達到了敲山震虎的目的。這些軍閥伶俐的很，不再敢找石敬瑭的麻煩。雖然有些人還不算特別老實，比如平盧節度使楊光遠，經常在石敬瑭麵前頤氣指使，還背著自己和契丹人暗送秋波。但畢竟楊光遠是自己的兒女親家，加上楊光遠一直沒有公開翻臉，也就平安無事。