1909年10月4日，這是張之洞最後的時光。
當朝軍機大臣即將離世，攝政王載灃不得不有所表示。傍晚時分，得知消息的載灃來到了張之洞的家裏。彌留之際的張之洞心裏牽掛最多的就是朝政，他想把一個臣子最後的任務完成。見到載灃後，張之洞依然不忘勸阻載灃，試圖讓他明白國家已經危在旦夕，希望他能夠及時醒悟，拿出行之有效的補救方針。可是，載灃根本就不和張之洞提朝政，而且很快他就沒有耐心聽張之洞的“嘮叨”了。
載灃不願意和張之洞談政務，張之洞隻好退而求其次，和載灃談人事安排。張之洞想到，自己位極人臣，擔任輔佐君王的重任，大限將至，他應該效仿古代賢臣，為君王推薦一批人才，以便繼續為朝廷效力。這是所有的賢臣為君王所做的最後的貢獻，同時，也是他張之洞最後一次報答皇恩。為此，張之洞在心裏反複斟酌，選定了幾個可用之人。
而載灃呢，不等張之洞開始談人事安排，扔下一句“張大人好好保重，我改日再來看你”便匆匆離去。載灃走後，張之洞一聲長歎，他告訴身邊的人，大清國的國運算是到了盡頭了。
張之洞的家人送走載灃，就都聚集在張之洞的病床前，聽他最後的囑咐。麵對即將到來的死亡，張之洞毫無畏懼，他告訴自己的子孫，人總有一死，讓他們無須悲痛。他總結自己的一生：“我生平學術治術，所行者，不過十之四五，所幸心術則大中至正。為官四十多年，勤奮做事，不謀私利。到死，房不增一間，地不加畝，可以無愧祖宗。”他希望張家子孫勿負國恩，勿墜家風，必明君子小人之辨，勿爭財產，勿入下流。張氏子孫無不含淚點頭，允諾一定要牢記教誨。午夜前，張之洞永遠地閉上了眼睛。
當天夜裏，張之洞在京為官的同鄉、門生故舊，都接到了張之洞去世的消息。與此同時，北京電報局連夜向武漢、長沙、廣州、上海、南京、太原等張之洞曾任職的地方發電報，通告張之洞逝世的噩耗。次日，朝廷裏也是充滿了哀傷的情緒，一批老臣在傷感張之洞辭世的同時，也開始討論張之洞的後事。
最終，眾人商定，以皇帝的名義發訃告，並賜給張之洞陀羅經被。陀羅經被是佛教密宗的聖品，用白緞做成，有朱砂或金漆印寫成的藏文佛經。清代帝、後、妃等喪儀，都是拿陀羅經被覆蓋遺體。此外，對於那些有特殊功勳的大臣，朝廷也會賜給陀羅經被，表示朝廷他對一生的肯定。另外，朝廷還賞賜給張家3000兩銀子作為張之洞的喪葬費。張之洞的長子和次子也被朝廷授予官銜。
再有就是諡號的問題。古代君主、諸侯、大臣、後妃等具有一定地位的人死去之後，根據他們的生平事跡與品德修養，評定褒貶，給予一個帶有評判性質的稱號，就是所謂的諡號。大臣的諡號並不是可以隨意加的，需要經過皇帝批準，而且，要從固定的幾十個字當中挑選。
張之洞去世後第三天，朝廷下旨賜給張之洞“文襄”這一諡號。張之洞探花出身，賜以“文”合情合理。而根據清代的規定，隻有那些有軍功的人才能被賜予“襄”字。張之洞雖然是文臣，但是他參與中法戰爭，舉薦的馮子材又大勝法軍；他在南京組織自強軍，在武漢組織湖北新軍，這些新式軍隊都是當時中國最有戰鬥力的軍隊。因此賜予張之洞“襄”也在情理之中。晚清重臣當中，也隻有左宗棠和張之洞兩人被賜予“文襄”的諡號。
據說，在張之洞去世前，朝廷曾考慮要賜給張之洞“文正”或“文忠”的諡號，這兩個諡號是臣子死後能獲得的最高榮譽，曾國藩被賜予“文正”，李鴻章被賜予“文忠”。但是，當張之洞的臨終遺折上呈到皇宮時，有人不高興了。張之洞在遺折中言語犀利，批評滿洲貴族，這使得手握大權的皇族成員很是不滿。因而改了張之洞的諡號。