裴度任宰相後，以削平山東和淮西的藩鎮為己任。此時，公開反叛的是淮西。武元衡被刺前一年，淮西節度使吳少誠病死，其子吳元濟秘不發喪，欲繼承節度使之位。這種情況在當時很常見，結果往往是朝廷妥協，追加一個任命。但憲宗皇帝拒絕了這樣的要求。吳元濟遂叛。
武元衡被刺後，長安繼續對淮西用兵，兩年過後仍無法決勝吳元濟，朝廷的財政也漸漸吃緊。朝廷中的一些大臣有罷兵的想法。這一日，憲宗在與重臣議政的延英殿召見裴度，專門詢問此事。
裴度說：“賊臣跋扈四十餘年，聖朝姑務含弘，蓋慮凋傷一境，不聞歸心效順，乃欲坐據一方，若以旄鉞授之，翻恐恣其凶逆。以陛下聰明神武，藩鎮皆願勤王。臣請一詔追兵，可以平蕩妖孽！”意思就是，不可罷兵，他裴度要親自領兵圍剿叛軍。
唐憲宗問：“你真的能為我出征嗎？”
裴度流淚拜倒，說：“武相國已殉難兩年，今山東、淮西兩賊仍未平滅，為臣日夜忐忑，今必為陛下出征，誓不與賊共存！”
憲宗動容，當即命裴度為淮西宣慰招討處置使。
早年時，裴度落魄於洛陽。一日黃昏，路過天津橋。當時淮西已叛多年。在橋上，有倆老人倚柱聊天，一位說：“蔡州用兵日久，不知何時才能平叛。”正在這時，他們看到裴度，驚愕而退。裴度奇怪，叫仆從跟在他們後麵，聽一老人說：“剛才還憂慮蔡州之亂不能平息，現在好了，平此亂者當是此人。”仆人回報裴度，後者笑道：“拿我開玩笑吧？”但就在轉年，裴度考中進士，走入了仕途。
元和十二年（公元817年）八月，裴度赴淮西親自指揮戰鬥，軍威大振。
當時，朝廷的每支軍隊都有宦官監軍，士兵進退都聽監軍的，將領做不了主。裴度到後，將所有宦官都轟了回去，把權力下放到將領那裏，如此一來，誰人敢不用命？所以此後連戰連捷。十月十一日，在裴度調度下，大將李愬雪夜襲蔡州，生擒了吳元濟。
又過了一年，在秋高氣爽的日子裏，朝廷開始對盤踞在山東的李師道用兵。
李師道雖善於進行恐怖活動，但本身沒什麼謀略，真要對陣作戰，就含糊了。而且，吳元濟被誅後，對他震動不小，在這種情況下，他上表向朝廷謝罪，割讓三州，並以長子為人質，留於長安。但很快又改變了主意。出現這種變化，跟他身邊的兩個女婢有關。
按史上記載，李師道無謀，計策多出於身邊的倆丫環：蒲大姊、袁七娘。她們得知師道向朝廷服軟後，說出了這樣一番話：“自您祖父以來，一直占據著山東十二州，怎能輕易割給朝廷？況且我們有很多軍隊，可以跟朝廷打一架，若勝不了，再行議和也不晚哦！”
李師道一聽，覺得很有道理，就高興地答應了。
朝廷此時已派武寧、宣武、義成、橫海、魏博五鎮節度使率軍合圍山東。中唐藩鎮，最善戰的莫過魏博軍（又稱“天雄軍”，與徐州的“武寧軍”，為當時戰鬥力最強的部隊）。與魏博軍交鋒的是李師道的部將劉悟。一戰即潰。當時，李師道坐鎮鄆州，逼劉悟進軍，後者遂反水，回師手刃李師道。時間是元和十四年（公元819年）春二月。
劉悟這一刀，算是對武元衡的一個交代吧。
武元衡的朋友中，有個叫王潛的，任江陵鎮守使，其部下許琛，一夕暴死又複活，聲稱被抓到陰間，在那裏偶遇了一個身材高大的紫衣人，後者托許琛給王潛帶話，說自己生活困頓，身上快沒錢了。
按許琛的描述，他當時來到一個叫“鴉鳴國”的地方。國中有千萬株高大的古槐，烏鴉不斷地鳴叫，四周幽暗陰森，“內氣黯慘，終日昏暗，如人間黃昏已後，兼無城壁屋宇，唯有古槐萬萬株，樹上群鴉鳴噪，咫尺不聞人聲”。後進了一座城，在府衙裏，發現官員身邊坐著一個紫衣人，身材高大，頭上包著棉布，好像受了傷。經官員審問，發現抓錯了許琛，便放他回人間，臨走時，許琛被紫衣人拉住，後者說：“你回去看見鎮守使王潛，就說我需要用錢，請他一定再給我五萬張紙錢……”
王潛聽後，潸然淚下，說：“那紫衣人定是元和十年（公元815年）被刺的故友武相國啊！”
武元衡被刺後，與其關係不睦的詩人劉禹錫，曾懷著複雜的心情寫下著名的《代靖安佳人怨》，其一：“寶馬鳴珂踏曉塵，魚文匕首犯車茵。適來行哭裏門外，昨夜華堂歌舞人。”其二：“秉燭朝天遂不回，路人彈指望高台。牆東便是傷心地，夜夜流螢飛去來。”
有人說，這詩裏有那麼一點幸災樂禍。劉禹錫是那樣的人麼？
武元衡的情人、皇帝和同事都還不錯。他死後，成都的女詩人弄起“薛濤箋”；皇帝沒有動搖，繼續執行了他的政策；而同事裴度，連續平滅了強藩，為他報了大仇。而裴度自己，也成為一代名相。晚年的時候，裴度退居洛陽，在南郊午橋別墅“築山穿池，竹木叢萃，有風亭水榭，梯橋架閣，島嶼回環，極都城之勝概”，取名“綠野堂”，與白居易、劉禹錫等人終日宴飲放歌。唐文宗開成四年（公元839年）春，裴度似乎也聽到了烏鴉的叫聲，那是他的老友武元衡在“鴉鳴國”的召喚嗎？沒有多久，他便也去世了。