他無論如何沒有想到，僅僅半個月之後，閻錫山就把他送上了斷頭台。說閻錫山一上來就想處決李服膺，那也不是事實。據眾多的當事者或知情人回憶，閻起初是想包庇李服膺的。日軍在晉北長軀直入，與閻錫山決策上優柔寡斷，避免與日軍主力決戰，有極大的關係。在南京統帥部和全國人民的強烈譴責下，為了應付國內輿論，搪塞國民黨政府，更主要的是開脫自己的責任，閻錫山找一隻替罪羊，勢在難免。當然也不是說李服膺就沒有責任，第400團大意失盤山，造成整個晉北防線的崩潰，他自然要負一定的責任。
據楊維垣的回憶——有一次，傅作義對他說：“原計劃在大同地區集結各主力軍，準備與敵人進行會戰。先是令61軍在天鎮、陽高固守3天，遲滯敵人的西犯，掩護主力在大同地區之會戰部署，旋又追加固守天鎮、陽高任務3天，共計6天。結果，因為敵板垣師團過南口後，竟從察南向平型關進犯，直抄雁門後方，以致不得不放棄大同會戰的計劃，分令各軍進關，重新部署作戰，顯得很為忙亂。你們軍雖然守天鎮、陽高已超過時限，但閻長官認為還不夠持久，對爾後戰局影響不利，特別是放棄綏東與雁北廣大國土，使國內輿論嘩然……當你們軍長被扣起來後，我不止一次地向閻長官進言，盤山永久工事的失守，影響天鎮陽高防守和爾後戰局，主罪在團長李生潤與其旅長劉潭馥身上。為了嚴明軍紀，激勵軍心和應付國內輿論，可以殺團長，處分旅長。閻當時同意了我的建議……”
作為第二戰區執法總監的張培梅此時在幹什麼呢？龐小俠說，那時，不斷有退下來的零散部隊。副官處叫老鄉蒸饃，過來的士兵每人發給5個，傷兵多給幾個，沒有準備菜。一天，一個傷兵在五道廟拉手擲彈炸死了自己。張培梅知道後，把龐小俠叫過去問道：“你們怎麼準備的吃的東西？光吃饅頭不行，小心你的腦袋！”張培梅的意思是給傷兵弄點菜。
那些日子，張培梅的臉色很難看，動不動就發火。
關於張培梅在李服膺這件事上，一直有兩種說法：一是張培梅好殺。他得知李服膺部天鎮潰退、雁北失守的消息後，立即提出應嚴肅軍紀，按戰時軍法處決李服膺。他認為，麵對凶殘及裝備現代化的日軍，中國抗日軍民唯有拚死血戰，不怕犧牲，才能阻止日軍的進攻，對那些作戰中動搖、退卻、執行命令不堅決的軍人應該處決，才能殺一儆百，提高部隊的士氣，否則隻能動搖軍心，造成人心渙散，於抗日大局極為不利，並且對全國其他戰場都產生不良影響。因此，他力排眾議，堅決主張處決李服膺。
二是起初張培梅主張處決李服膺。但當他得知天鎮、陽高失守的全過程後，認為李服膺不是死罪。他向閻請求將李服膺交付他依法處理。閻就是不同意。
雖缺乏權威性的史料記載，但人們越來越傾向於後一種說法——半個月之後，在太原省府大堂，閻錫山於深夜提審並下令處決李服膺時，最有資格坐在大堂之上的第二戰區執法總監張培梅卻沒有到場，也許很能說明問題。
閻錫山終於下定決心處決李服膺。這時他已從太和嶺口回到了太原，內長城一線的作戰已近尾聲，忻口戰役即將開始。日軍飛機開始轟炸太原。一天，一顆炸彈落進綏署大院，炸死了少校副官席向南。日機飛走以後，人們都圍過去，閻錫山也拄著拐杖出來看了看。他的臉色十分冷酷。
促使閻錫山盡快動手的原因主要有四個。一是李服膺的老同學、現任南京軍事委員會執法總監的唐生智來電，要求將李服膺押解至南京審理。如果將李服膺放走，那麼，雁北的那些偷工減料的工事就會大白於天下。不如先斬後奏，滅口了事；二是蔣介石緊緊盯住不放。據說湯恩伯也在蔣麵前狀告李服膺於平綏線作戰不力，使湯部蒙受重大損失，更使蔣對他感到惱火；三是輿論壓力太大，不殺他個把軍師旅長難以應付；四是借李服膺的人頭警告晉綏軍的將領，以製止潰逃之風。
10月2日夜，11點多鍾。這天晚上，輪到剛剛接替席向南升為少校副官的龐小俠擔任值日官。聽到閻錫山要夜審李服膺時，他頗感吃驚。
一輛汽車悄悄停在省府大堂門口，憲兵從車上押下李服膺。他並沒有被捆綁。一進大堂，李服膺驀然發現大堂內設有公案，兩旁憲兵肅立，氣氛陰森恐怖，頓時呆住。他嘟囔道：“這是幹啥？”擔任陪審官的副官處處長謝濂說“會長一會兒要和你談，你且等等。”
未幾，閻錫山從裏邊走出。他雙手撐在公案上，兩隻鷹隼一樣的眼睛盯住李服膺，低聲說：“慕顏，從你當排長起，一直升到連長、營長、團長、師長、軍長，我沒有對不起你的地方，但是你卻對不起我。第一，你做的國防工事不好；第二，叫你死守天鎮陽高，你卻退了下來……”
李服膺插話說：“讓我守6天，我守了6天，我有電報……”
“你胡說！”閻錫山逼視著他，頓了頓，“你的家，你的孩子，有我接濟，你不要有顧慮。”
李服膺這時流下了眼淚。閻錫山朝周圍的人點點頭，快步離開。謝濂說：“慕顏，你還有什麼家事，可以告訴我。”李服膺氣憤地把帽子往地下一摔：“那還說球哩！”
有人上前捆他，謝濂製止：“那像什麼樣子。”於是沒有捆，隻把繩子搭在李服膺的肩上。上車後，他對謝濂和憲兵司令張建說：“為啥這樣糊裏糊塗地殺人，使我死得不明不白？”
車到小東門大教場，他們下車。憲兵司令張建跟著李服膺往前走，還沒走到放棺材的地方，張建往一邊讓了讓，負責行刑的綏署警衛連長康增從背後一槍將李服膺打倒在地。黑暗中看不清他臨死時的模樣。
連續幾天，全國各主要報紙都在顯著位置登載了敗軍之將李服膺被懲辦的消息，閻錫山贏得了一片讚譽之辭——鐵麵無私、執法如山、秉公辦案、閻長官“揮淚斬馬謖”……這一招很靈，李服膺一死，幾乎所有的責難都化解了。
李服膺是抗戰爆發後第一個被處決的國民黨高級將領。三個多月後，山東省主席兼第五戰區副司令長官韓複榘在武昌被處決。有意思的是，這兩人終年都是48歲。在抗戰初期，他們的死都曾轟動一時，使全國抗日軍民的士氣為之一振。
罪名一樣，死法一樣，內情卻有別。1938年1月28日，上海《新聞報》發表評論說：“中國自作戰以來，死法雖然不同，我國已死了不少的抗日將領，趙登禹、佟麟閣、郝夢齡之死，人人為之掉淚，朱耀華（第18師師長，淞滬會戰中兵敗自殺——筆者注）之死，尚有人為之惋惜，李服膺之死，亦尚有人為之代抱不平，隻有‘青天草包’（指韓複榘）之死，人們卻認為是死得應該的。”
50多年來，國內一些公開的出版物上，包括一些權威性的文章，在提及這段曆史時，大都把李服膺和韓複榘視為同類。而日本防衛廳研究所戰史室編著的《中國事變陸軍作戰史》一書中卻這樣寫道：“從9月5日開始攻擊……天鎮縣城之敵仍舊孤立而頑強地進行抵抗，沒有退卻，11日（日軍）才攻占縣城。”
曆史在這裏留下了遺憾。
1937年9月中旬，放棄了“大同會戰”的閻錫山不得不麵對一個更為嚴酷的現實，日軍精銳的第5師團像從地底下突然鑽出來似的，直趨內長城沿線的一個重要關隘平型關。後來被海峽兩岸的戰史學家皆認可的“太原會戰”，從大同失守的那一天起便開始了！