“我下午就出城，晚上到城外歇息，山人不習慣住在深宅大院裏。再說，皇上也要召見我，不敢耽誤太長時間。隻是……”袁天綱指了指大都督送的黃白二物說，“這些東西都是身外之物，我一概都不要。我這一生了無牽掛，有了這些東西反而多了牽絆，所以這些東西還請武都督收回。”武士彠見袁天綱說得如此真誠，也不再勉強，隻是留他吃了一頓午飯，便派人護送他出了城。
貞觀九年（公元635年）的新年剛過，武士彠通過吏部的老關係，也將自己賦閑在家的兩個兒子武元慶和武元爽送去了京城長安。雖然官職不大，但總算安排好了兩個不成器的兒子。二月二日，武士彠親自送兩個兒子上京赴任，一直送到了荊州城外的廿裏鋪，千叮嚀萬囑咐才灑淚而別。回來時，沒想到在府門口的台階處不小心跌了一跤，昏暈在地。跟隨的人趕緊將他抬到內堂。家人找遍了城中的名醫前來診視。醫生為武士彠診了脈，開了十幾味藥，在床上休養了近一個月才有所好轉。可武都督沉不住氣，沒等到病全好，就不顧左右的勸阻，直接打衙門開始處理政事。
四月，太上皇李淵在長安駕崩。武士彠得到這個消息後哀傷無比。他想到自己能有今日，全是仰仗太上皇對武家的恩寵。他因為悲傷過度，最終新病疊舊疾，竟臥床不起，每每嘔心吐血。這次尋遍了京城中的名醫，也不見好。
二十八日清晨，武士彠召來家人，對他們交代後事說：“我這幾日神思恍惚，應該不久於人世，先皇對我們武家恩寵頗多。但我多日病在床上，根本無暇顧及衙門的事情。所以請各位同僚幫我個忙，幫我上書給皇帝，再尋找一位有才之士擔任荊州都督吧。個人事小，朝廷事大，不要隻圍著我轉。”身邊的幕僚垂淚答應著走了。
武士彠將自己的妻子楊氏叫道床前，囑說：“夫人乃名門閨秀，下嫁到我武門，士彠慚愧。天不與壽，我隻能先走一步了。我走之後，千斤重擔都壓到了你一人肩上。你們可以回到文水老家去，母子私人耕種幾畝田地過活，女兒的婆家，也不要太挑剔，不必非是名門望族不可，隻要是老實本分的好男兒，能善待其一生就好。隻是咱們的二女兒心高氣傲，讓我不能放心得走啊。”
武士彠把明空叫到床前，拉著她的手說道：“我兒雖是個女子，但衣不解帶，侍奉我半月有餘，想想我這一生能有兒如此，也就不枉此生了。孩兒從小就是個明白事理的人，以後做事一定要冷靜處理。我走之後，你要好生照顧你阿娘，看護好姐妹。”武士彠對明空交代了一些事情，久久地凝視著愛女，想著袁天綱的話，似有無限的心事。當天晚上，武士彠就去世了。明空和家人自是拊膺頓足，放聲大哭。荊州官員上書向皇帝表奏了此事，當李世民得知武士彠因思念先皇而疾病交加時，不禁大為感動。為表彰他的忠心、勤政愛民的精神，皇上詔命武士彠諡號日“定”，追封為禮部尚書，特令並州的大都督李勣為其主辦喪事，一切費用均由國家支出。
武士彠出殯那天，喪禮可謂是空前的氣派。發喪那天，光是看熱鬧的人就擠滿了整個武家莊，全並州府的大小官僚，都來為武士彠送葬。盡管武士彠的喪禮再風光，但仍然不能避免武家就此衰落的事實。
武士彠剛剛過世，他的兩個兒子就開始吵嚷著分家，不願意和楊氏母女門一起生活，在這樣萬般無奈，楊氏的長女隻能帶著可憐的嫁妝匆匆嫁給了官職低微的越王府曹賀蘭越石。不僅如此，喜事辦得竟不如平常人家，少女明空按捺不住氣憤的心情，竟然在婚禮上操起木棍大鬧起來，這讓她同父異母的哥哥武元慶下不來台。
武元慶一怒之下，隨即叫來一個媒婆，吩咐她不論家境如何，隻要盡快將十四歲的武明空嫁出去就行。為了能給自己的女兒說個好人家，楊母隻能帶著未出閣的兩個女兒來到了京城，寄住在親戚家。