然而，當他與好友張公權、李馥蓀商量此事時，二人都認為沒有足夠資本，要想辦銀行是絕不可能的事。陳光甫解釋說，他所謂銀行也是為大銀行服務的，隻要服務周到，就可以贏得信譽，有了信譽就可以吸收大量存款，因此這件事不妨一試。
聽了陳光甫“以服務能力代替現金資本”的想法以後，張、李二人被他的新穎思想和創業勇氣所感動。於是，他們齊心協力募集5萬元，在1915年創辦了上海商業儲蓄銀行。當時上海共有十多家中國人辦的銀行，其中中國銀行資本300萬元，交通銀行資本750萬元，中華商業儲蓄銀行資本最少，也有25萬元。因此陳光甫以5萬元創辦銀行，是前所未有的事。
三、陳光甫的儲蓄論和人才觀
上海商業儲蓄銀行成立後，由於堅持“服務社會”的宗旨，其業務蒸蒸日上。到了1922年，在全國40多家商業銀行的排名中，它的資本已經由當初的最後一名躍居第四。
上海商業儲蓄銀行的飛速發展，還與陳光甫大力提倡儲蓄有關。陳光甫認為：有了儲蓄才會有資本，有了資本才能興辦企業，有了企業才有就業機會，有了就業機會才可以提高生活水平，才可以產生中產階級，才可以導致民主政治。總之，儲蓄是資本的源泉，是社會進步的動力。
除此之外，陳光甫的人才觀也獨具特色。他說：“本行所懼者為三種人：一種為害群之馬，不知節儉，甘心墮落，結果身名俱敗，且累及同人，麵上無光。一種為無意識之馬，應辦之事，隨意擱置，不知振作，以上海銀行為過渡。一種為死馬，完全被動而不能主動……”為此，他非常重視員工的選拔和培訓。
為了進一步擴大業務，陳光甫又采取以下措施：
第一，在倫敦、紐約、舊金山和法國、新加坡、日本等地設立代理機構，並在香港建立分行，開展外彙業務。
第二，學習美國所謂“百貨商店”式的經營方式，在提倡工業金融、農業金融和平民金融的基礎上，使銀行業務突破了商業範圍。
第三，仿效美國信托公司的經營模式，在銀行成立信托部並開展相關業務。
第四，模仿歐美各國的保險製度，成立大華保險公司和第一信用保險公司。
第五，為了填補國內空白，在銀行設立旅行部，開始涉足旅遊事業。
20世紀初的上海商業儲蓄銀行。
四、20年代的中國旅遊業
20世紀20年代，中國的旅遊業非常落後。當時有三家外國公司涉足中國旅遊業並代售中國火車票：一是英國的通濟隆公司，二是美國的通運公司，三是日本的國際觀光局。有一次，陳光甫去買車票，沒想到售票小姐居然因為與男朋友聊天，讓他在櫃台前足足等了十分鍾左右。當陳光甫兩手空空離開售票處時，他產生了創辦中國旅行社的念頭。
在此前後，美國一家輪船公司為了招徠顧客、拓展業務，發起一次環遊世界的旅遊活動。一時間，美國名流學者、富商巨紳紛紛報名參加。但是，當這艘輪船不遠萬裏來到中國以後，遊客們卻隻能在“露天通事”（即略通“洋涇濱”英語的導遊）的帶領下，逛一逛城隍廟便匆匆離去。
陳光甫發現，這些“露天通事”對中國文化一無所知，卻把上海城隍廟吹得天花亂墜，說它是中國的名勝古跡，從中可以領略中國文化的精髓。這樣一來，上海城隍廟便成了中國的一個旅遊招牌。陳光甫認為，上海城隍廟根本不是中國的風景名勝，更不能代表中國文化。如果讓這些外國遊客隻是逛一逛城隍廟就匆匆離去，那麼這趟不遠萬裏的中國之行就會給他們留下非常糟糕的印象。這是陳光甫創辦中國旅行社的又一個原因。
除此之外，還有一次不愉快的經曆，也促使他下定決心，創辦一家屬於中國的旅行社。陳光甫是個酷愛旅行的人。有一年年底，他在徐州火車站看到許多乘客聚集在月台上等車。當時正是半夜三更、天寒地凍的時候，許多婦女兒童在刺骨寒風中凍得發抖，這種情景深深刺痛了陳光甫的心。他想，如果能在車站附近能有一間遮蔽風寒的大屋子，再配備一些長條凳和熱茶水，讓旅客有個暫時休憩之所，豈不是件好事？