撤職之後
張嘉璈的被迫辭職對他精神上造成很大打擊，不久便稱病住院。4月1日，他在日記中的隨筆裏無奈地記道：
天下無不散之筵席，手栽的美麗花枝，何必常放在自己室內，能讓人取去好好培養，何嚐不是一樁樂事。所惋惜者，自民國成立後，希望以中行之力，輔助政府建立一完善之中央準備銀行，一麵能永保通貨健全，一麵能領導公私金融機關分業合作，創造一力能發展經濟之金融係統。庶幾內有資金充沛之金融市場，外具誘導外資之堅強信用，足以追蹤經濟發達後進之日、德兩國。此誌未遂，斯為憾事。
張嘉璈辭職後先被任命為中央銀行副總裁，但他並未就職。4月2日，蔣介石致電孔祥熙，說他以為讓張任實業部長比較穩妥，“當先安其心，且勿使人難堪也”。此時實業部長是汪精衛的親信陳公博，覬覦此位的人大有人在。5月4日，蔣介石再次致電孔祥熙：“實業部事以先任公權為妥，如此時由子文兼任，則更為眾矢之的，而於政局亦必生變化，更多不測。”而且由張出任實業部，“於公權方麵亦可略予麵子，不使其不安也”。
1935年8月，中央信托局成立，孔祥熙兼任理事長，邀請張嘉璈任局長，張答應了，並希望能將中行總賬室主任劉攻芸借調任副局長。其後孔祥熙又調杭州中國銀行分行副經理壽毅丞任總行業務局副局長，張嘉璈聞訊後深恐宋子文誤會是他的主意。果然，宋子文為此事大發雷霆，並懷疑這是張嘉璈的安排。張嘉璈在日記中說：“彼疑心如是之重，不問事之始末，動輒以惡意推人，如何可受人信服耶？”為此事張嘉璈特地給孔祥熙打電話，希望他從中作些解釋。雖說孔強調此事與他無關，但他仍“恐與宋之裂痕又增加一層耳”。
過了幾天，新任中行總經理的宋漢章告訴張嘉璈，說宋子文對此事仍不諒解，張回答說：“若彼必無中生有以疑人，顯有成見。餘除借調攻芸外，決不用中行一人。”就在這一天（8月20日），張嘉璈從中行的寓所中搬到自置的物業，從而與中國銀行斷絕了關係。
8月23日，蔣介石約張嘉璈見麵，等到張嘉璈從上海乘火車趕到南京的勵誌社時，因蔣要趕乘飛機去四川，所以隻談了20分鍾，但蔣介石言猶未盡，要張陪他同車去機場。蔣介石談話的內容主要是為上半年中國銀行調動之事事前未曾接洽而表示歉意，並希望今後仍能繼續合作。蔣介石還透露，國民黨不久就要召開六中全會，中央機構要進行調整和改組。當天晚上孔祥熙與張見麵，仍勸他出任實業部部長。張嘉璈未置可否，但在日記上卻寫道：“餘實不願參加此無組織之政府。”
8月29日，蔣介石的另一位親信張群又問他有無出掌實業部之意。張嘉璈卻以“一無錢，二無事權，三則政府對各國經濟關係難有確定方針，四則不願離開金融界”為由，予以拒絕。9月3日，孔祥熙再次提及此事，張嘉璈回答說，已向汪精衛、張群當麵婉拒，而且中信局剛剛成立，未便撒手。孔祥熙也說，他其實也有難處，一是怕陳公博不滿，又怕汪精衛懷疑他不顧大局。最後說這件事還是由張自己決定吧。
1935年11月12日，國民黨五全大會在南京召開，決定對國家行政機構進行改組，並聘請若幹專家名流加入政府。12月8日，孔祥熙約見張嘉璈，說若他出任行政院院長，那就希望張出長實業部或就任行政院秘書長，張均婉辭。同一天，蔣介石又叫張群帶話，想讓他出任駐日大使，張嘉璈說實在難以從命，因外交實非其所長。張嘉璈的理由是：“（一）外交非其所習；（二）日人之致尊敬於我者，以金融上之經驗與信用，一旦涉足外交，觀念頓變；（三）與蔣先生素未共事，日人疑我不能全權代表。”因此覺得他實在不能擔任駐日大使。
第二天，張嘉璈又接到民生公司總經理盧作孚從南京寄來的函件，說蔣先生希望他出任鐵道部長。張嘉璈見蔣介石如此禮賢下士，不好意思再行拒絕，於是就對張群說：“萬不得已，即就鐵部。”蔣介石聽到張的答複後十分高興，立即請張到南京一談。
張嘉璈即於當晚乘夜車赴南京，12月10日上午10時與蔣介石見麵。張嘉璈說：“（一）向來隻知對事，不知對人；（二）喜直言；（三）非黨員；（四）喜廉潔，不能容惡人，所以不宜做官。”對於眼下的局勢張嘉璈表示：“（一）華北外交險惡；（二）財政金融日陷絕路，恐徒勞無功。”蔣介石表示，隻要他願意出來做事，一切為難之事均由他出麵解決。最後談到政務次長的人選，蔣提議曾養甫擔任，張沒有意見，因為過去他們二人曾在浙江共過事，彼此相知甚深。至於常務次長張則提出聘請曾鎔浦出任，他曾參與內外債的整理和庚款的運用，對於日後整理鐵路債務極有幫助，蔣自然也沒有意見。如此皆大歡喜，張嘉璈脫離了中國銀行後終於找到了新的方向，日後他在整理鐵路外債和戰前建設鐵路方麵取得了輝煌的成績；而蔣介石亦知人善任，雖然他一定要張嘉璈離開中國銀行，但之後卻不厭其煩地為他安排其他職務，也算是有情有義了。