經過了“祠後土”“祭太一”等小規模的封禪實踐後，漢武的大型封禪活動終於拉開了序幕。元鼎七年（公元前110年），一切上泰山的準備工作都已就緒，隻等漢武帝一聲令下，就可出發了。負責的官員擬定了隨從封禪的人員的名單，呈交武帝核準，武帝劃掉了司馬談的名字，保留了所有方士和巫師的名字。至於漢武帝的心意，大家不說已經肚明。武帝封禪的最大心願是上山找到仙人和長生不老的仙藥，方士和巫師是他這方麵的助手，司馬談上山隻會妨礙他這樣做。
司馬談聽到隨從人員中沒有他的名字，既擔憂，又氣憤。令他憂慮的是伴君如伴虎，今天受到如此冷遇，說不定是日後大禍臨頭的預兆；氣憤的是自己為了封禪的大事忙碌了大半輩子，好不容易盼到這一天，他的一切努力即將成為現實的時候，可是卻得到了不準參加的回報。而那些毫無貢獻的方士們反而都能參加，世上哪有這麼不公平的事情呢？他對遠道趕來和他見麵的司馬遷說：“今日天子繼承已延續萬年的傳統，上泰山封禪，可是我不能跟隨前去，這是命運在捉弄我啊！我的命運怎麼這麼不幸啊！”這時他已病得很重。
據《漢書》記載，元鼎七年十月（當時以十月為歲首），武帝北巡，登單於台，遣使於匈奴單於挑戰，但單於不敢出來應戰。春正月，武帝率領人馬經過緱氏（今河南省偃師縣南），然後去泰山封禪。
當方士們正在泰山上圍繞著武帝熱火朝天地歡慶封禪時，司馬談卻獨自在洛陽無限淒涼地麵對死神。
司馬談之所以因封禪的事最後憂憤而死，是因為他對於封禪有自己的立場：封禪是為了顯示國家的太平，並非為了求不死的仙藥，漢武帝受了方士們的愚弄，使封禪偏離了正確的方向，勞民傷財，跡近荒唐。司馬談被方士們排斥，不能扈從封禪，也就不能將自己的立場向武帝、大臣等剖明，更不能將封禪典禮引導到正確的方向，因此登時氣死。後來司馬遷在《封禪書》和《太史公自序》中將父親的立場向世人說明，使世人對他父親的死因有正確的看法。
對司馬談的死因，清朝的學者方庖在其《書太史公自序後》中有正確的論述：“蓋封禪用事雖希曠，其禮儀不可得而詳，然以是為合不死之名，致怪物，接仙人蓬萊士之術，則夫人而知其妄矣。子長恨群儒不能辨明，為天下笑，故寓其意於自序，以明其父未嚐與此。而所為發憤以死者，蓋以天子建漢家之封，接千歲之統，乃重為方士所愚迷，恨已不得從行，而辨明其事也。”
方庖在這裏闡述的觀點是這樣的：封禪的事情是許多年代才有一次的盛典，其中究竟采用什麼樣的禮儀製度，我們不可能完全知道。然而如果以祈求長生不老的名義來舉行這樣的典禮，或者攀上高山舉行祭祀隻是為了尋求怪異之物，甚至想借此事招引仙人來，以達到自己航行到蓬萊仙島的目的，那麼，世人都知道這是愚蠢的行為。令司馬遷惱恨的是：許多腐儒跟隨武帝封禪，卻弄不清合理的封禪和荒唐的封禪的區別，也伴隨著皇帝做尋找仙人、追求怪異等蠢事，以至成為天下人的笑柄。因此，司馬遷將自己和父親對待封禪的態度寫入《大史公自序》中，以表明他的父親和那些跟隨武帝封禪、大搞尋仙活動的方士、腐儒們是不一樣的。而司馬談之所以氣憤而死，正是由於他認為：身為天子的武帝代表大漢帝國舉行這樣隆重的封禪大典，承繼一千多年來敬畏大自然（即天神）的傳統，本是一件大好事，不料又一次被方士所誤導和迷惑，落入尋仙和尋找不死藥的巢臼。好事變成了勞而無功的壞事。更令司馬談氣憤的是，他自己被方士們排斥在外，不能參加他多年設計的封禪盛典，因而也不能向皇帝陳述自己主張的正確和指出方士們主張的錯誤。
方庖說出了導致司馬談死亡的真實原因：他不甘心眼睜睜地看著他多年策劃的神聖的封禪大典被方士們引入求仙的歧途，可是他又無可奈何，無法改變現狀，隻能眼睛一閉，撒手塵寰。