大魏嘉平三年八月五日，司馬懿薨於京師，時年七十三。柏夫人當日便隨之吞金殉情自殺。
少帝曹芳素服臨吊，喪葬威儀一依前漢霍光之故事，給他追贈相國、郡公。司馬孚奏陳司馬懿之遺誌，辭去郡公之爵。九月庚申日，葬於河陰首陽山，諡曰“文貞侯”。
大魏鹹熙元年夏三月，司馬昭挾平蜀之功而為晉王，五月魏朝追封司馬懿為“晉宣王”。大魏鹹熙二年冬十二月，晉受魏禪，司馬炎登基稱帝，為司馬懿上尊號曰“宣皇帝”，陵曰“高原”，廟稱“高祖”。十四年後，司馬炎調兵遣將，揮師從東西兩路同時夾擊，一舉吞並了東吳，統一了全國。至此，三分天下，盡歸於晉。羅貫中的名著《三國演義》（ 此詩見於明代嘉靖年間刊刻的《三國誌通俗演義》，現行的《三國演義》通行本中已無此詩。）對司馬懿集大魏之守成者、大晉之奠基者雙重角色於一身的精彩一生用一首古詩作了一個精準而凝練的概括與評價：
開言崇聖典，用武若通神。
三國英雄士，四朝經濟臣。
屯兵驅虎豹，養子得麒麟。
諸葛常談羨，能回天地春。
我們認為，這首古詩於司馬懿而言，當是最為公允的蓋棺之論。