此時，蔣介石開始認識到，錦州中立化已經不可能了，日本要完全占領中國東北，國聯不會實行任何有力的製裁。於是，蔣介石打算對日本不宣而戰，在錦州進行抵抗。可是，張學良對抵抗缺乏信心，仍堅持錦州中立。11月29日，張學良致電蔣介石，報告了他與矢野的談判情況，並且表示：“查劃定中立地域辦法，亦屬避免衝突，以圖和平解決之一道，日方既表同意，我方似可與之商洽。”對此，顧維鈞、宋子文認為，錦州中立已經不可能，勸張學良不要再與日方談判，幣原提出的中立辦法，美、英、法不肯擔保，而且方案“有數點超出原議之外”，明顯地是想誘導我們退兵，“墮其陰謀”。“錦州一隅之保存，關係3省全部存亡；撤兵一節，若無國聯或3國切實保證，吾方萬不能承允；如日軍不顧國聯決議，悍然進攻，隻能竭力抵禦。”在幣原的一再要求下，經過矢野和原東北參議湯爾和的勸說，張學良仍作出了“自動撤兵至山海關”的決定。
1931年12月10日，國聯理事會通過了決議，決定派遣一個由5人組成的委員會前往東北調查。12月11日，日本若內閣因被指為軟弱而總辭職。13日新成立的政友會犬養毅內閣，標榜“自主的強硬外交”，實際上是拋開“外交保障占領”的遮掩，而赤裸裸地奉行支持占領“滿洲”的外交。
12月15日，蔣介石在中國動蕩的政局中下野，宋子文、戴季陶、顧維鈞相繼辭職。一個星期後，寧、粵、滬3方召開國民黨四屆一中全會，推選林森為國民政府主席，孫科為行政院院長，任命陳友仁為外交部長。
蔣介石下野後，孫科政府為爭取輿論支持，在對日政策上漸趨強硬。
陳友仁發表主張對日“積極抵抗”的宣言，聲稱“即不幸而挫敗，非所計也”。但是，張學良繼續堅持他的“錦州中立化”的主張，兩天後不戰而丟棄錦州。為此，陳友仁提議用對日絕交的方式打破中日僵局。國民黨軍隊內部何成濬等21名將領主動請纓抗日。一時間，國內要求退出國聯，對日絕交、宣戰的呼聲越來越高。
蔣介石雖然下野，但仍關注局勢的發展。他對絕交、宣戰的想法頗為擔心，因為這對他自濟南慘案以來逐漸形成的對日避戰以圖發展的基本戰略相違背。1932年1月8日，美國提出不承認日本用武力改變“滿洲”現狀的“史汀生主義”，蔣介石受此鼓舞，從中看到了一線希望。他認為，在國民政府內部，多數人讚同陳友仁的絕交方案，這是最大的危機。此時，中國若戰而不宣，“尚有可言”。如果絕交，“即為宣而不戰，則國必危亡”。在孫科內閣一再敦促下，經過與汪精衛在杭州的和解，1月21日，蔣介石發表《東北問題與對日方針》一文，提出“四不”基本原則，以及對日抵抗與交涉並行的方針。所謂“四不”，就是指“不絕交”、“不宣戰”、“不訂割地之約”、“不簽喪權之字”。蔣介石說：“以日本帝國主義之暴悍無人理，猶不敢顯然對中國絕交宣戰，而猶是出於戰而不宣之行為者，蓋欲避免宣戰之責任，以減輕國際之責難也。今我明明尚無可戰之實力，而貿然為暴日所不敢為之絕交宣戰，則適以暴日加責任於我之機會，而益得以恣行無忌矣。”這“不僅自失其《國聯盟約》《非戰公約》與《九國公約》之權利，而且使此等公約完全失其效用。不僅不能引起國際對中國良好之印象，而且與中國以破壞公約破壞和平之責任，如此中國誠陷於萬劫不複之地”。對待日本的侵略呢，蔣介石提出：“暴日對我之侵略，既以戰而不宣之方式出之，則我欲對之抵抗，何嚐不可襲用其方法，此乃正當之防衛與有效之抵抗，既使之無可借口，並不背任何國際之公約，是無戰之害有戰之利者也。”針對退出國聯、反對同日本直接交涉的主張，蔣介石認為，中日可以直接交涉，“中國既為獨立國家，當然有對外直接交涉之資格”，即使“訴之《國聯盟約》可也，另行訴之《九國公約》與《非戰公約》可也，在不損主權之範圍內對日交涉可也，即一麵交涉，一麵仍訴之《國聯盟約》《九國公約》等，亦無不可也”。