按理說，陳銘樞是一直擁護蔣介石的，而且對召開四中全會結束寧粵對峙是有功的。但是最後還是同蔣介石決裂了。
1931年12月，在粵方的堅決要求下，蔣介石不得不第二次下野。但是蔣介石在下野前就有卷土重來的打算，他設下重重陷阱，使後來者難於為繼。就在辭職當天，他主持行政院國務會議，決議改組江蘇、浙江、江西、甘肅四省省政府，以他的親信顧祝同任江蘇省政府主席，魯滌平任浙江省政府主席，熊式輝任江西省政府主席，而以邵力子任甘肅省政府主席。另外，行政院各部部長及重要司長，莫不紛紛辭職，無論批準與否，不管是否有人接收，都先一走了事。尤其是財政部長宋子文，帶領財政部科長以上人員來了個總辭職，並把財政部檔案也帶走了。1931年12月15日，國民黨中央政治會議決議準予蔣介石辭去國民政府主席兼行政院長職，以林森代理國府主席，以陳銘樞代理行政院長。12月28日，國民黨四屆一中全會正式選任林森為國民政府主席，選任孫科為行政院長，陳銘樞被特任為行政院副院長兼交通部長。
陳銘樞之所以能在孫科內閣擔任要職，從蔣介石來說，是因為陳銘樞長期擁護他，被他視為“心腹”。讓陳銘樞代表寧方在新政府中充當要角，可以牽製孫科內閣，並為蔣介石複出做準備。從孫科來說，是因為他不得不極力拉攏陳銘樞，因為孫科雖然代表粵方組閣，但並沒有完全獲得粵方尤其是廣東將領陳濟棠的軍事支持，而陳銘樞擁有駐防京滬的十九路軍，能為他提供軍事保障。
孫科內閣建立後，麵臨著巨大的困難。每月的財政、稅收不過600萬元，但軍費一項每月需要1800萬，不敷甚巨。而蔣介石下野後，上海的金融、銀行界根本就不與政府合作，政府根本借不到錢。各院部、軍政機關到行政院要錢的人排著長長的隊，就是拿不到錢。外交也陷入困境，日軍不僅侵占東北，還在天津、上海等地挑釁。是戰是和，毫無進展。
孫科內閣陷入困境，胡漢民、蔣介石、汪精衛卻袖手旁觀，作為行政院副院長的陳銘樞，“大感憤慨”。1932年1月11日，他在中央黨部紀念周上說：“萬一仨領袖不來，或遲遲其來，重心不立，政府不固，我們也不能等死。大家要一起振作起來，去求我們的生路。”為此，陳銘樞聯合蔣介石的死對頭馮玉祥、李宗仁、李濟深等人，幫助孫科組織中政會特務委員會，負責“處理國難期內一切政務”。他還在財政上極力支持孫科，主張停付公債本息；在外交上支持陳友仁，主張對日絕交。1月14日，蔣介石得知孫科內閣“主張對日絕交與停付公債本息，而陳銘樞主張尤烈”時，大為惱怒。他沒有想到的是，陳銘樞不僅沒有牽製孫科內閣，反而大力支持孫科。於是決定親自出山。
1月17日，蔣介石與汪精衛在杭州秘密會晤，達成合作協議，即蔣介石支持汪精衛主政，汪則支持蔣介石重掌軍權。1月22日，蔣介石重返南京，陳銘樞到中央軍校去見他。蔣介石裝模作樣地對陳銘樞說：“陳長官，我是在野之身，隻有聽你的了，你怎樣處置我呢？”言下之意就是“我現在就要上台了，你能把我怎樣”。陳銘樞立即聽出了他的話中之話，急忙回答說：“你還是中央三常委之一，我仍是聽你指揮的。”蔣介石於是板起臉說：“國家大事，要徹底的細思，斷不是你們這些粗疏貪躁者所能辦得了的。”說完便一聲不吭。陳銘樞隻好告退。
1月24日，蔣介石、汪精衛在勵誌社主持談話，否定了孫科內閣的對日絕交方針，取消中政會特委會，迫使孫科、陳友仁相繼辭職。作為孫科內閣的重要成員，陳銘樞的地位變得非常尷尬。他後來回憶說：“在那幾天，中央黨部和政府（行政院）的各項會議，我雖然照常出席”，但“要不是有十九路軍三萬餘將士掌握在我的手中，我隨時都會步鄧演達的後塵，被蔣介石殺掉。我之所以能夠保住一條命，還由於淞滬抗戰打亂了蔣介石重新上台的內外政策部署。”
1931年11月十九路軍進駐上海時，上海人民的抗日救國運動已是十分高漲。日本借口上海的反日運動，在上海不斷製造事端，進行挑釁，日本海軍陸戰隊更是伺機蠢動，蓄意擴大事態。麵對日軍的挑釁，京滬衛戍司令長官陳銘樞指示十九路軍總指揮蔣光鼐、軍長蔡廷鍇，上海衛戍司令戴戟說：“如日軍向我防地進攻，就原地消滅它。”十九路軍召開軍事會議，對部隊進行嚴密部署。
但是蔣介石認為中日軍事實力差距太大，國內又不統一，若與日開戰，則“沿海各地及長江流域，在三日內將全被敵人所侵占”，因而極力強調上海守軍“力避衝突”。這就與陳銘樞及十九路軍將領形成尖銳矛盾。就在此時，日軍發動了一?二八事變，十九路軍奮起抵抗，淞滬抗戰就在蔣介石極不情願的情況下開始了。
2月13日，蔣介石召開軍事會議，他對何應欽、陳銘樞等人說：“十九路軍已經保持了十餘日的勝利，能夠趁此收手，避免再戰為好。”並命何應欽、陳銘樞致電蔣光鼐、蔡廷鍇、戴戟說：“蔣介公之意，我軍進攻無論如何犧牲，亦不能達到任何目的，在全盤計劃未定以前，仍取攻勢防禦為要。”何應欽則更直接地對陳銘樞說：“不要打了，打了十幾天也夠了。”陳銘樞憤怒地回答說：“前方的將士要打，老百姓要打，我能叫他們不要打嗎？”會後，陳銘樞致電蔣光鼐、蔡廷鍇等人說，近來有人主張“避免再戰，樞極不渭然。十九路軍必須貫徹全軍犧牲之決心，以完成民族命運所寄托之使命。”蔣介石見陳銘樞與十九路軍不肯屈服，就秘密派人與日交涉，並命令中國海軍不得參戰。
2月20日，十九路軍與第五軍聯合大敗日軍，取得廟行鎮大捷。中外輿論嘩然，中國人民更是狂喜不已，人民支持軍隊抗日的情緒，因此達到了空前高漲的地步。然而就在此時，蔣介石不僅不肯增援上海守軍，還主張對日屈服讓步。他對汪精衛、何應欽、李濟深、陳銘樞說：“此次對日問題，國聯方麵尚未能積極，日閣議聞為戰費不能決定大出援師。在這樣的情勢下，我方應該依照原定方針，一麵交涉，一麵抵抗。抵抗得有勝利，稍稍退後，即以交涉途徑進行。現在我方不可不少示退讓，以表示我確有和平的誠意。”蔣介石的主張當即遭到陳銘樞、李濟深的反對，並要求蔣介石從江西抽調“剿共”的陳誠、衛立煌、譚道源部增援上海。然而，蔣介石卻說：“部隊尚未集中，增援部隊至少要在十天之後才能到達，至於十九路軍的撤退時間，由蔣光鼐、蔡廷鍇諸兄查看，自行決定。”對於蔣介石不肯增援上海，陳銘樞非常氣憤，他說：“蔣介石簡直就是在耍流氓，開戰已有二十餘天，怎麼能說部隊還未集中呢？”由於日軍不斷增援上海，而蔣介石始終不肯再派兵增援，3月2日，十九路軍和第五軍被迫從上海撤退，淞滬抗戰失敗。
一?二八淞滬抗戰，蔣介石坐視十九路軍失敗，使陳銘樞與十九路軍再次認清了蔣介石的真實麵目，進一步堅定了其反蔣的決心。而此時的蔣介石對陳銘樞與十九路軍也是極為厭恨，因為十九路軍的英勇抗戰，不僅戳穿了蔣介石“對日抵抗，三日亡國”的讕言，而且還反證了蔣介石在九一八事變中執行不抵抗政策，是一個嚴重的失策。淞滬抗戰，令蔣介石顏麵盡失。因此，淞滬抗戰一結束，蔣介石就開始尋機報複陳銘樞和十九路軍。4月20日，蔣介石對蔣光鼐說：“希望你能轉告陳銘樞，不要做陳炯明第二。”隨後，蔣介石下令撤銷京滬衛戍司令長官公署，免去陳銘樞京滬衛戍司令長官職，並逼迫陳銘樞出國考察。5月底，蔣介石下令將十九路軍分別調往各地，企圖將十九路軍分而治之，遭到十九路軍全軍將士的堅決反對。蔣又改令十九路軍調往福建“剿共”，借以實現他使十九路軍與紅軍兩敗俱傷的陰謀。蔣介石的報複行動，使陳銘樞與十九路軍加快了反蔣步伐。
由此可見，陳銘樞與十九路軍後來在福建舉兵反蔣，除了受****和進步人士的影響外，也有其自身的重要原因。自1931年到淞滬抗戰，陳銘樞與十九路軍在政治上與蔣介石漸漸產生了嚴重的分歧，並基本上完成了由擁蔣到反蔣的思想轉變。而蔣介石睚眥必報的性格，更堅定了陳銘樞與十九路軍反蔣的決心。
在陳銘樞出洋前，鄧世增請蔣介石出麵挽留，蔣介石僅答以“應尊重其自由，不必強勉”。陳銘樞回國前，通過汪精衛試探蔣介石的口風。蔣在答複汪的詢問時雖然表示沒有成見，但又反問現在是否為陳氏回國的最好時機？他有沒有急著回國的必要？明顯是不想陳氏回國。所以陳銘樞回國時已抱定決心與蔣介石決裂。
與陳銘樞不同，蔣光鼐、蔡廷鍇入閩後雖然也有一定的思想轉變，但遠不如陳銘樞那樣劇烈、決絕。蔣光鼐一向淡於政治，蔡廷鍇則像“職業軍人”，後者更有著較強的擁護“中央”心態。淞滬戰後，蔡廷鍇到廣州，因站在“中央”的立場來講話，曾引起廣東各要人不滿。據當時“打入”陳立夫集團的林植夫回憶，陳立夫曾要他暗中調查陳銘樞與蔣光鼐，但不必調查蔡廷鍇，認為蔡“沒有問題”。當然，這並不意味著蔣光鼐、蔡延鍇本身就沒有反蔣意識的增長。在“剿共”和抗日兩個互相聯係的問題上，十九路軍和蔣介石的政見分歧越來越明顯。“一·二八”抗戰期間，十九路軍多次公開表示不再參與內戰，但蔣介石毫不理會，一再催逼其“進剿”蘇區。1933年7-8月間，十九路軍在閩北“剿共”嚴重受挫，蔣介石非但沒有對之好言撫慰，增補軍需及兵員，反而要追究責任，向全國通報。蔡廷鍇先後提出增加軍費及增派部隊支援，蔣介石又沒有滿足，十九路軍由此對“剿共”的前途、意義產生了動搖。
1933年5月，陳銘樞剛回國，就主張盡快起事，蔣光鼐、蔡延鍇都認為“當前不應公開反蔣，隻能維持現狀，搞半獨立來聚積力量”，“等待時機”。實際上，日本的步步緊逼除了造成國民黨的統治危機，也有強化各界擁蔣及擁護中央的效應，蔣光鼐、蔡延鍇正是考慮到十九路軍的許多中上層還有較強烈的擁護中央心態，才對立即反蔣有顧慮。