長平之戰後，秦國趁勢包圍趙都邯鄲，持續一年多，幸有魏公子信陵君竊取兵符相救得以不滅，但國力已大減。
燕以趙大傷於長平，以丞相栗腹為將，針對趙國“壯者盡於長平，其孤未壯”的狀況，於秦昭襄王五十六年(前251年)舉兵攻趙。趙使廉頗為將，指揮了著名的鄗代之戰。他將全軍分為兩路，一路由樂乘率領直趨代地，抗擊西路燕軍，一路親自率領，迎戰燕軍主力於鄗城(今河北柏鄉縣北)。廉頗指揮為保衛鄉土而同仇敵愾的趙軍，采取集中兵力打敵正麵的戰法，首戰告捷，挫敵兵鋒，打掉了燕軍的囂張氣焰。接著，他率領趙軍大敗燕軍主力，陣斬栗腹。燕軍主帥被斬，驚慌潰退。廉頗抓住燕軍敗退之機，立命趙軍乘勝追擊，長驅500裏，於前250年進圍燕國都城薊(今北京市)。燕王喜眼看燕國危在旦夕，隻好答應趙國提出的割讓5城等全部要求，向趙國求和。廉頗因功封信平君，為相國。廉頗任相國前後約六七年，多次擊退入侵敵軍，並伺機出擊。前245年，帶兵攻取了魏地籠陽(今河南內黃縣西北)，說明趙國國力又有恢複。
廉頗從長平免職回家，失去權勢的時候，原來的門客都離開了。等到再被重用當將軍，門客們又都聚攏上來。廉頗很是感慨，要他們退去，門客告訴他：這沒什麼奇怪。現在是以市場上的買賣方式交朋友，您有權勢，我們就跟隨您，您沒有權勢，我們就離開，這本是買賣常理。又有什麼埋怨的呢？
秦始皇二年(前245年)，趙孝成王卒，其子趙悼襄王繼位。襄王聽信了奸臣郭開的讒言，解除了廉頗的軍職，派樂乘代替廉頗。廉頗因受排擠而發怒，攻打樂乘，樂乘逃走。廉頗於是離趙投奔魏國大梁(今河南省開封市)。廉頗去大梁住了很久，魏王雖然收留了他，卻並不信任和重用他。趙國因為多次被秦軍圍困，趙王想再任用廉頗，廉頗也想再被趙國任用。趙王派遣使者宦官唐玖去帶著一副名貴的盔甲和四匹快馬到大梁去慰問廉頗，看廉頗還是否可用。廉頗的仇人郭開卻唯恐廉頗再得勢，暗中給了唐玖很多金錢，讓他說廉頗的壞話。趙國使者見到廉頗以後，廉頗在他麵前一頓飯吃了一鬥米，十斤肉，還披甲上馬，表示自己還可有用。但使者回來向趙王報告說：“廉將軍雖然老了，但飯量還很好，可是和我坐在一起，不多時就拉了三次屎。”趙王認為廉頗老了，就沒任用他，廉頗也就沒再得到為國報效的機會。
楚國聽說廉頗在魏國，就暗中派人迎接他入楚。廉頗擔任楚將後，沒有建立什麼功勞。他說：“我思用趙人(《史記。廉頗藺相如列傳》)流露出對祖國鄉親的眷戀之情。但趙國終究未能重新啟用他，致使這位為趙國做出過重大貢獻的一代名將，抑鬱不樂，最終死在楚國的壽春(今安徽省壽縣)。十幾年後，趙國被秦國滅亡
廉頗的陵墓在今安徽省壽縣城北7公裏的八公山之放牛山西南坡上，墓麵西，周長300米，西臨淮河，南北東三麵環山，一代風流領山川之勝，英風浩氣激蕩千秋。