李牧到朝中任職，約在孝成王二十年（前246年）以後。這一年，他曾因國事需要調回朝中，以相國身份出使秦國，定立盟約，使秦國歸還了趙國的質子。兩年後，悼襄王繼位。當時，趙奢、藺相如已死，廉頗與樂乘均出走他國，李牧成為朝中重臣。悼襄王二年（前243年）他帶兵攻取了燕的武遂（今河北徐水縣西）、方城（今河北固安縣南）。此時，秦國迅速兼並了魏國的大片土地，迫使魏國屈服之後，把主要兵力對向趙國。趙王遷二年（前234年），秦大將桓口（又稱樊於期）攻取趙的平陽（今河北臨漳縣西）、武城（今山東武城縣西），殺趙將扈輒，斬首10萬。三年（前233年），又帶重兵攻打趙國。趙派李牧為大將軍，大破秦軍於宜安（今河北高城縣西南），兵敗潛逃。可見此次大勝對秦打擊沉重，而趙得到喘息之機。因功大，李牧被封為武安君。
趙王遷七年（前229年），秦國大將王翦大舉攻趙國，率上黨兵卒直下井陘（今河北井陘縣），楊瑞和率河間兵卒進圍趙都邯鄲。趙國派李牧、司馬尚傾全軍抵禦，一直相持到第二年。趙國由於連年戰爭，再加北部代地地震，大麵積饑荒，國力已相當衰弱。而更大的憂患還在朝中，昏聵的趙王遷，對那個誣陷過廉頗的秦國間諜郭開寵信不疑。秦國在戰場上不能速勝，便又行反間故計，重金賄賂郭開，使其誣告李牧、司馬尚謀反。趙王遷不作分析，馬上派趙蓖及齊將顏聚取代李牧。李牧為社稷軍民計，拒交兵權，繼續奮勇抵抗。趙王、郭開便暗中窺探，乘其不備之時，加以捕獲殘殺，並罷黜廢免了司馬尚。三個月後，王翦大破趙軍，殺死趙蓖，俘虜了趙王遷及顏聚，攻取邯鄲，滅掉了趙國。
李牧是戰國末年東方六國最優秀的將領，深得士兵和人民的愛戴，有著崇高的威望。在一係列的作戰中，他屢次重創敵軍而未嚐敗，顯示了高超的軍事指揮藝術。尤其是破匈奴之戰，是中國戰爭史中以步兵大兵團全殲騎兵大兵團的典型戰例。李牧確立了農耕民族針對遊牧民族的防禦戰術，在曆史上具有非常重大的意義。他的無辜被害，使趙國自毀長城，也使後人無不扼腕歎恨，其經曆與秦國武安君白起又何等相似。司馬遷對李牧的冤死，表示很憤慨，他在《趙世家》的最後說：趙王“遷素無行，信讒，故誅其良將李牧，用郭開。豈不謬哉！”李牧對後世也是有影響的人物。秦子嬰就把“趙王遷殺其良臣而用顏聚”的後果是“失其國而殃及其身”，作為曆史教訓，企圖勸阻秦二世不要殺害蒙恬、蒙毅。漢文帝也曾感歎得不到廉頗、李牧那樣的大將，以解除他對匈奴的憂患。