天津雖說比北京安靜，可也並非世外。常有一些武人政客登門拜訪，彼此訴說些官場見聞、人生感慨。說到動情處，甚至難免在心激起幾圈死水波瀾。其中頂動人的一件事是奉天胡帥張作霖來勸張勳複出做官。
1920年是北洋直、皖兩係軍閥鬥爭白熱化的一年。大總統徐世昌夾在直係首領曹錕和皖係首領段祺瑞之間，像一隻鑽進了風箱的老鼠，兩頭受氣，任憑他是一顆圓滑無比的“水晶玻璃球”，也玩不轉北京政局了。隻好想出了當年黎元洪召張勳北上調解的辦法，電請東北巡閱使張作霖進京調解段、曹關係。
張作霖此時已不滿足於僅僅當一個東北王的地位，時刻覬覦著中央政權。直、皖兩係相爭，正是他趁機擴張勢力和影響的大好時機。因而，他接電後，欣然入關，來摸北京的政治行情。同時，他還別出心裁地想起了張勳。盡管在當年複辟的關鍵時刻，他也曾宣電討伐張勳，但在內心裏，他對張勳還是同情的。他一到北京，即向徐世昌建議，應該恢複張勳的長江巡閱使兼安徽督軍之職。隨後，他又特意赴天津勸說張勳出山，說以往討伐複辟之事，均係段祺瑞一手所為，如今曹、段交惡，正好利用曹錕、吳佩孚倒段。而現任長江巡閱使兼安徽督軍倪嗣衝是皖係幹將，當日背叛複辟誓約，奪取張勳職權的二號罪魁。此番打倒老段，必然連帶整垮倪嗣衝。這實在是“大哥”重整旗鼓、坐鎮長江下遊的天賜良機。
張勳正在為收入減少問題犯難，何嚐不想再獨霸一方，中飽一頓？尤其是能夠趁機打倒十惡不赦的段祺瑞，又何不是一件大快人心之事？然而，縱觀自己一生，打來打去，理想終於無法實現。足見謀事在人，成事在天。天意不順，何苦強求無益？罷也，罷也，宏偉的複辟理想和柱國抱負都已化為泡影，這把老骨頭已隻合留著頤養天年，經濟收入雖然減少，日子卻足以過得下去，何犯著為幾鬥金銀再度腆顏登台，受天下人一口唾沫？於是，他對張作霖說：“賢弟所言雖然都是實情，不過，往日的恩怨我已不想計較了。我的終生目標僅為‘複辟’二字而已。複辟既然不成，我已是死了心的人了，如何還能過問政事？不過，賢弟如若有意，我倒希望你關照一下我昔日的老部下張文生。他目下是徐海鎮守使。”
張作霖見張勳無意複出，隻好作罷。當年7月，段祺瑞的皖軍被曹錕、吳佩孚打垮。9月撤銷倪嗣衝一切職務時，張作霖果然遵照張勳的囑托，力薦原辮子軍司令張文生當了安徽督軍。
1921年1月，張作霖因事至津，再度拜訪張勳時，發現張勳已把家裏的7輛轎車賣得隻剩了3輛。他眨巴了幾下眼睛，回到北京後，便不管張勳意見如何，徑自宣布任命張勳為熱河林墾督辦。心想，你辮帥老兄眼見窮荒到來，還講究得那麼多的道義名分？趁早出來占個官位，撈得一個是一個。我張作霖也總算真心對得住你老兄了。
然而，張作霖竟不自知，正是在這一點上，見出了他和張勳人格的高下。他自己是一個典型的實用主義者，受利益之驅使，他可以拜仇敵為爹，也可以視親爹為仇。他曾經拜張錫鑾為義父、段芝貴為義兄，後又把他們從東北驅逐出去。而張勳則不然，他心裏隻有一個皇帝，他雖然也計較個人得失，但他始終把個人的榮辱得失與皇朝興衰聯係在一起。他一生不曾為私利背叛或出賣過一個朋友。張作霖在他眼裏始終是一名調皮倒蛋的小老弟，自己曾身為其上司，怎能矮得下身子去接受他的恩賜？既然前番連官複原職都不能令其動心，一頂熱河林墾督辦的帽子，他如何肯戴？於是，張勳毫不客氣地拒絕了這項任命，繼續以他寧靜淡泊的心態，悄悄地打發著餘生。
1923年9月12日，張勳終於走完了他70年的人生曆程，安詳地躺在天津鬆樹裏英租界內的豪華寓所裏，永遠地閉上了眼睛。張勳一向身體健朗，直到69歲還在一個勁地生孩子。這一回初病時，也不過是一點感冒而已。但沒有想到很快發展為肺炎。而他本人和被請來診病的郎中卻都滿不在乎，以為吃幾服退燒藥，發發汗就會霍然而愈。直到9月10日不能起床了，才急忙請來了西醫。那穿著白大褂的洋人耳朵上掛著聽筒一聽，再翻開眼皮瞧瞧，出來便搖頭聳肩，嘰哩咕嚕說了一通洋話。翻譯說，大帥得的是肺炎，已非藥力所及。你們為什麼不早請西醫？現在太晚了。趁大帥還能講話，快請大師作最後囑咐吧。
“死後……務必……歸葬故土……”
這便是張勳留給人世的最後一句話。一般認為人老思鄉，張勳的遺囑所表現的，是人之常情。也有人認為，張勳主要的還是擔心葬在天津，身後難安。因為他畢竟還背著複辟罪魁的惡名，身後之事無可托庇，天津雖然熟稔，卻並無親情可恃，萬一世事發生逆變，說不定掘墓鞭屍，什麼不測之禍都可能發生，而在江西老家，他曆年捐資上百萬銀兩修橋補路，扶貧濟困，廣積恩德，且有族人親情維護，當不至遭遇非禮。這兩種說法顯然都有道理。
不過，張勳死後，其遺體並沒有立即被運回江西，因為就在他本人死去的這一年，家裏又接連夭折了六名子女。被請來占卜陰陽的幾名“大天師”一致認為時當凶歲，家人不可扶柩南歸，必待陰陽轉換後，另擇黃道吉日舉靈南歸。因而，其親屬隻得將其裝殮後，置棺於裝有冷氣的秘室停放。直到1924年8月，才啟運回鄉。