經過討價還價，以張公權為首的中國銀行股東會和董事會，同意接受新增官股500萬元，商股維持2000萬元，總部由北京遷往上海。但張公權、陳光甫、宋漢章、李馥孫四位江浙籍人士，占據五位常務董事中的四席，仍掌握實權。宋子文則另起爐灶，於1928年11月成立國民黨嫡係的新中央銀行並兼任總裁。
陳光甫一開始是反對籌設中央銀行的。他曾麵見蔣介石，建議將中國、交通兩行合並，行使“央行”職能，他的猶豫態度，代表著民間資本對新興的蔣氏政權壟斷金融的憂慮。後來，陳獲指派為中央銀行理事，他又向宋子文建言：中央銀行應維持超然地位（即財政部長不要兼任總裁），負責宏觀金融調劑，輔助一般商業銀行而不是與其競爭業務，即真正成為“銀行的銀行”。後來的現實發展，與其預想南轅北轍，但他已無能為力了。
此後數年，中國銀行業務繼續發展，到1934年底，存款總額達54669萬元，放款41195萬元，發鈔20471萬元，已成為全國規模最大的銀行。但1935年初國內爆發的金融大風暴，給了一直覬覦這塊“肥肉”的蔣宋一方下手的良機。當年3月，蔣介石與宋子文聲稱國家經濟麵臨的困境，全在於“金融幣製與發行之不統一”，矛頭直指中國、交通兩銀行，而要解決問題，它們必須“絕對聽命於中央，徹底合作”。
1935年3月27日，國民政府立法院通過發行1億元金融公債，作為向中央、中國、交通三大銀行增資之款。第二天，官方公布任命張公權為中央銀行副總裁，等於下了最後通牒，抗爭無效的張隻好向董事會遞交辭呈。隨後，宋子文出任中國銀行董事長，改總經理負責製為董事長負責製，張公權則被逐出常務董事會，隻能當一名可有可無的普通董事。中國銀行被迫接受官股增資1500萬元，總股本4000萬元中，官股商股各占一半。
心中不忿的張公權不甘屈居中央銀行，後經跟他私交甚好的國民黨大佬張群（時任外交部長）和孔祥熙（時已接任財政部長及中央銀行總裁）從中斡旋，才於同年底轉任鐵道部長，暫別銀行界。這時候，他剛滿46歲。
起落無常
在中國、交通及中央三大銀行均有一席之地的陳光甫，未能幫助老友張公權擊退宋子文的“偷襲”，但依然維持與國民政府高層的緊密關係。從1931年擠提風潮中全身而退的上海銀行，憑借陳光甫深厚的政商人脈和靈活手腕，此後幾年裏又獲得大發展。
1928年以前，國內七家資本較大的私營銀行“南三行”（上海、浙江興業及浙江實業）和“北四行”（金城、鹽業、中南及大陸）中，以存款總額計，浙江興業與鹽業銀行交替居首，上海銀行通常排名第四、五位。到了1930年底，上海銀行存款總額達8978萬元，高居南北七行第一位，此後它與江蘇淮安籍金融家周作民創辦的金城銀行輪流坐莊。直到1937年6月，上海銀行以近兩億元存款穩居私營銀行第一。
隨著抗日戰火蔓延全國，陳光甫一麵將上海銀行總部移到香港（太平洋戰爭爆發後香港淪陷，又分別遷回上海和重慶），一麵出任國民政府軍事委員會（蔣介石為委員長）下屬的貿易調整委員會主任，任務是推動土產出口，爭取換彙支持抗戰。他最重要的功績是，1938年到20世紀40年初代表國民政府與“孤立主義”盛行的美國艱難洽商借款事宜，共談成了兩筆：一是2500萬美元的桐油借款，二是2000萬美元的滇錫借款。
熬過了抗戰八年的艱難時光後，1946年2月，上海銀行總行自重慶遷回上海。但陳光甫發現，盡管自己抗戰時為國出力甚多，此時得到政府特別照應，上海銀行在淪陷區30家停業的分支行陸續恢複營業，但“政府對金融事業有獨占之趨勢，商業銀行之地位將大非昔比”。
戰前的1936年，中央、中國、交通、農民等官方“四大行”，存款額占內資銀行總量還不到60%，戰時已上升至80%，戰後竟達90%以上。而且它們完全壟斷發鈔權，手裏有的是鈔票，放款額也占到了總量的96.5%（1947年6月統計）。麵對如此嚴酷的現實，為私營銀行事業奮鬥逾30年的陳光甫不免哀歎，這明擺著已由“自由競爭形式轉到統製政策”，官僚資本銀行“發展其壟斷事業之行為，其勢難當”。
此時的張公權也一度複出，意欲收拾舊山河。1947年初，宋子文因貪汙醜聞和施政失當，被迫交出行政院長的位置，由張群接替，張公權受命出任中央銀行總裁（1947年3月—1948年5月），時人稱之為“兩張經濟”。
但這一年零兩個月的任期中，頹勢畢現的國民黨政權在內戰中反勝為敗，財政收入入不敷出，縱使張公權使出渾身解數，亦難力挽狂瀾。諷刺的是，為張出謀劃策的得力幹將冀朝鼎（中央銀行經濟研究處處長兼新聞發言人），待中共取得政權後真實身份才曝光：原來他是潛伏極深的地下共產黨員，受組織委派專門前來“攪局”的。
半世英明的張公權受此牽累，反而背上了加速全國經濟崩潰的黑鍋。
有國難投
早在1931年金融風潮期間，陳光甫曾在上海銀行內部發出訓示，引山西票號依附舊官僚而致崩盤之殷鑒，要求“不可接近官場人物”、避免“轉入於政變旋渦”。而他晚年又向老部下反省說：“接近政治如玩火，過去對國民黨政府押了一寶，險些引火燒身。”縱觀其一生行止，可見內心原則與嚴酷現實之間，矛盾衝突何其深也。
1949年春，與陳光甫私交甚篤的代總統李宗仁希望他作為和談代表前往北平，陳婉言謝絕，悄然南下香港。這一年晚些時候，他在香港居然收到了作者親筆簽名寄來的《毛澤東選集》，他回贈以自己珍藏的晚清湘軍名將胡林翼的一部書信集。毛澤東年輕時一度十分仰慕胡林翼這位鄉裏前賢，把自己的字也改成跟胡氏一樣的“潤之”，細心的陳光甫顯然聽說過這個故事。