本來，日本人對吳佩孚是寄望極高的。且讀第二次世界大戰後日本“土肥原賢二刊行會”編撰的一段文字：
當時（1938年），日本軍以破竹之勢，席卷華北、華中、華南。以王克敏、梁鴻誌、德王為首的政府相繼成立。土肥原作為陸軍、海軍、外務三省特別委員會的負責人，正在策劃在三個政府之上建立以吳佩孚為首的中央政府的工作……
為所謂的“吳佩孚工作”，日本人已耗資三千多萬日元。
其實子玉先生也答應過“出山”，條件也極簡單，隻一條，即：請日本人撤出包括東北在內的所有中國領土。而且，確也有舊部打著他的旗號於河南省城開封一帶集結（甚至還在山東境內招過兵呢！），被喜出望外的日軍提供武器裝備並改編成了“皇協軍”，隻是後來該部“全部潛逃”，“回歸重慶軍建製”（日本人語）以後，人們才知道了吳氏的深不可測。
對於那個諂媚地笑著的汪精衛，知書達禮的吳佩孚也回過信，不過話說得很有原則：
離重慶，失所憑依，如虎出山入柙，無謀和之價值，果能再回重慶，通電往來可也。
——你隻要還留在日本人占領區，就別來煩我！
阪垣征四郎當麵保證過，隻要他答應出山，則除日軍已經占領的冀、魯、豫三省外，再加上即將攻占的湘、鄂、贛三省，整個南北六省全部劃歸吳氏建政，政權名義，“概由大帥自行定奪”！也就是說，如吳氏耐不住寂寞，則現代中國曆史上又將出現一個古怪的漢奸政權矣！
然而，吳子玉沉默如山。阪垣立正行軍禮退出後，他依然巍然而立。
日本人越俎代庖地在什錦花園安排了一場記者招待會。他尚未出麵，中外記者們已經讀到了日本人代寫並打印好的《吳氏對時局的意見》。“意見”稱：他已決定參與“和平運動”。
一身中國紳士裝束的吳大帥出現了，他拿起油印稿，看了一遍，又放下，一字一句地說：
惟“平”乃能“和”，“和”必基於“平”。本人認為，中日和平，唯有三個先決條件：
一、 日本無條件自華北撤兵；
二、 中華民國應保持領土和主權之完整；
三、 日本應以重慶（國民政府）為全麵議和交涉對手。
怕在場的日本人聽不懂，他厲聲令秘書“斷乎不容更改”地將自己最後的“政治宣言”翻譯成日語。
他知道，在殘暴的日本人手中，自己拒絕的結局是什麼。靜夜裏，他寫下了憂憤的絕筆詩：
欲將詩酒遣良時，遙望南天淚已垂。
一語寄君應努力，滿盤棋局仗誰支？
他所寄語的“君”，顯然是正在南方領導中國軍民頑強抗戰的蔣介石先生。
惱怒的日本人終於體味到了十幾年前的蘇聯人所體味到的絕望，即：這位腰板筆直的中國軍人領袖斷斷不會屈服了。
就在這時，身體健壯的吳佩孚意外地被一塊攙在餃子餡兒裏的骨碴硌傷了牙床，幾天後，腮部紅腫，疼痛難耐。於是，經常來訪的齊燮元和一直尊吳為老師的日本特務機關長川本大作少將，帶著日本軍醫處長石田和護士急匆匆趕來，對他進行了“治療”……
是為民國二十八年（1939年）12月4日。從突患牙病到蹊蹺辭世，隻有短短的十天。
人們遺憾過，當時吳大帥並非必死無疑，德國醫生史蒂福斯曾前來他家為其診治，隻要他肯去受國際法保護的東交民巷內的德國醫院，遭暗算的英雄之軀或可有救。可他，寧死不肯違背多年前向國人所做的承諾——不住租界，不結交外國人。
於是，在日本人與漢奸們假惺惺的鱷魚淚裏，在抗戰領袖蔣介石委員長悲切的吊唁聲中，在家人與部下的號啕哭別聲中，北洋集團裏的唯一儒將、性情倔強的吳玉帥，魂歸蓬萊仙山，唯餘他手書的那副長聯在這故宅正堂的牆上瑟瑟而泣：
得意時清白乃心，不怕死，不積金錢，飲酒賦詩，猶是書生本色；
失敗後倔強到底，不出洋，不入租界，灌園抱甕，真個解甲歸田。
怎麼說，這也是個英雄啊！小彤忽地冒出一句喟歎。