年五歲，宮中曾夜失火，武帝大驚，登樓以望。時皇孫司馬遹乃牽武帝裾入，暗中而言曰：“暮火倉卒，宜避非常，不可令照見人主。”武帝聞言，由是奇之。次日，武帝領皇孫司馬遹觀豕牢，遹言於武帝曰：“豕甚肥，何不殺以享士而使久費五穀？”武帝嘉其說，遂使烹之。因撫其背，謂廷尉傅祗曰：“此兒當興我家。”次日早朝，會武帝謂群臣曰：“朕皇孫司馬遹聰敏非常，前觀失火之戒，後上烹豕之言，好似吾太祖宣帝之才也。朕觀太子不才，意欲廢之。今見皇孫如此明慧，故不易之。”於是群臣上賀，皆稱萬歲。
武帝乃大會群臣於淩雲台。尚書衛瓘知太子司馬衷庸才，不堪政事，每欲陳啟廢之事，未敢發言。因此朝會佯醉，入跪武帝床前曰：“臣欲有所啟。”武帝曰：“卿所言何耶？”欲言而止者三，乃以手撫床曰：“此座可惜。”武帝意悟，因謬曰：“卿真大醉。”於是瓘不敢複言，而武帝了然在心，乃悶悶歸宮，密謂皇後楊氏曰：“今太子不堪大統，此事若何？”
楊後對曰：“古來神器立嫡以長，不問賢愚，豈可動乎？”時武帝疾甚，知太子不才，然恃皇孫司馬遹明敏，故無廢立之心。
先用王祐謀，以太子母弟柬、瑋、允，分鎮要害。又恐楊氏之逼，以王祐為北軍中侯，典禁兵。又與皇孫遹高選僚佐，以散騎常侍劉寔誌行清素，命為之傅，以輔皇孫。又封宗室數人。
淮南相劉頌疏曰：
陛下以法禁素寬，未可遽革。然矯時救弊，亦宜以漸。譬猶行舟，維不橫截迅流，當漸靡而往，稍向所趨，然後得濟也。
臣聞為社稷計，莫如封建親賢。然宜審量事勢，使諸侯率義而行者，其力足以維持京邑；包藏禍心者，其勢不足以有為。陛下宜與通達古今之士共籌之。周之諸侯有罪，身誅而國存；漢之諸侯有罪，或無子者，國隨以亡。今宜反漢循周，則下固而上安矣。天下至大，萬事至眾，是以聖王執要於上，委務於下，非惡勞而好逸，誠以政體宜然也。夫以居事別能否，甚難也；以成敗論功罪，甚易也。今陛下精於進始而略於考終，此政之所以未善也。人主誠能居大執要，考功罪於成敗之後，則上下各得其所安矣。古者六卿分職，塚宰為正。自漢氏以來，凡列、執事，丞相都總。今尚書製斷，諸卿奉成，於古製為太重，使出家事付外寺，使得專之。尚書統領綱紀，歲終考功，校簿而行賞罰，斯亦可矣。今動皆受成於上，故上之所失，不得複以罪下。歲終事功不建，不知所責也。夫細故謬妄，人情之所必有，而悉苛以法，則朝野無完人矣。近世為監司者，類大綱不振，而微纖必舉，盡由畏避豪強而又懼職事之曠，則謹密綱以羅微，使奏效相接，狀似盡公，實則撓法。是以聖主不善碎密之案，必責凶猾之奏，則政之奸自然擒矣。夫創業之勳在於立教定製，使遺風係人心，餘烈匡幼弱，後世憑之，雖昏猶明，雖愚若智，乃足尚也。至夫修飾官署，凡諸作役，此將來所不須於陛下而自能者也。今動所不須，以傷所憑，竊以為過矣。