漢陽失守後，陳果夫東下上海，按陳其美的指示組織招待所，聯絡陸軍小學、中學的同學，分別介紹到各起義部隊。
就在這戎馬倥傯的冬日，陳果夫在陳其美的病榻前第一次見到了正在商談起義事宜的蔣介石。
他後來憶及此事時說：“蔣先生威毅穩重的風度，使我第一次所生的印象非常深刻。
”
刺殺宋教仁的槍聲，粉碎了資產階級革命派對袁世凱的幻想。
孫中山揭櫫二次革命的大旗，興兵討袁。
陳其美任上海討袁軍總司令，陳果夫奉陳其美的命令招集軍校同學200餘人組成奮勇軍，並任副司令，率部參加了攻襲江南製造局的戰鬥。
該役失敗後，陳果夫負責辦理善後事宜，因勞累過度大量咯血，入醫院治療兩個月才康複。
1915年12月初，陳其美再次發動肇和兵艦起義討袁，陳果夫專任聯絡通訊工作。
在起義的關鍵時刻，法國巡捕突然到起義指揮總機關進行搜捕。
陳果夫聞聲啟門時，見有5個巡捕用槍對著自己，想到陳其美、楊滄白等人正在樓上開會，他便奮力同巡捕爭執，拖延時間，並設法弄出聲響，引起樓上警覺，使陳其美等人及時越屋逃脫。
及至巡捕上樓搜查時，陳果夫和其他在樓下被捕的人又奪窗而走。
脫險後，他在蔣介石的寓所找到陳其美，繼續為聯絡各部奔忙。
蔣介石在陳果夫死後的《褒揚令》中，有“纘承革命家風”之語。
若以此評價他追隨陳其美參加資產階級革命的這段經曆，尚屬貼切。
1916年5月18日，陳其美被袁世凱的爪牙刺殺於上海。
由於白色恐怖，一時間竟無人敢認領屍體。
蔣介石感其知遇隆恩，悲痛萬分，哀哭之後，把屍體載回自己家中。
陳其美死時家中隻有20元錢，蔣介石的錢也不夠，便出外借錢為其料理後事。
他還親撰一篇至哀至痛的祭文，發誓要做陳其美的“化身”，完成其未竟的事業。
對蔣介石的俠義之舉，陳氏兄弟沒齒不忘，並以畢生忠誠作為回報。
陳其美遇難後，陳果夫遷返故鄉。
1918年春，由其嶽父介紹進上海晉安錢莊學習錢業。
蔣介石沒有忘記這位義侄，一有機會，便對其倍加照應提攜。
1920年，孫中山為籌措革命經費，籌辦上海證券物品交易所，由張靜江、戴季陶等具體辦理。
時值蔣介石不安心在援閩粵軍中任職，也到上海參預其事，並讓陳果夫組織茂新號，擔任54號經紀人，專門經營交易所生意。
1924年，蔣介石奉孫中山之命籌建黃埔軍校，立即邀請陳果夫赴粵相助，因其未往，又令他在上海代辦軍校學生製服和一切軍用品。
不久，蔣介石又轉給陳果夫一張孫中山任他為招兵委員的委任狀，並讓他負責主持招兵工作。
陳果夫先後在江、浙、皖招募了4000餘人，做為第一、二兩團教導隊新兵，又在上海及北方和華中招收軍校第三、四期學生3000餘人，還招收軍官數十人輸往黃埔。
這些都是日後統一廣東和參加北伐的基本隊伍。
陳果夫對蔣介石所交辦的一切事情均盡心盡力，然而他真正成為蔣介石的左膀右臂，則是在蔣介石製造了中山艦事件、決意加緊反共的時候。
孫中山逝世後，革命統一戰線內部資產階級與無產階級爭奪領導權的鬥爭日益尖銳。
蔣介石為取得最高領導權，加緊布置自己的心腹班底，遂屢次電催陳果夫南下。
1926年4月底，陳果夫離滬赴粵。
此前他已被國民黨第二次全國代表大會選舉為第二屆中央監察委員。
因是以“陳果夫”三字當選，此後便以字行，而祖燾的名字反不為人所知。
他到廣州不久，蔣介石在國民黨召開的二屆二中全會上，提出《整理黨務案》，致使擔任國民黨中央部長的共產黨員全部離職。
至此，蔣提任了組織部長、軍人部長和國民革命軍總司令職務，任陳果夫為組織部秘書。
6月又提升陳果夫為中央組織部組織委員會委員，中央財務委員會委員及中央政治會議秘書。
7月9日，蔣介石以國民革命軍總司令名義誓師北伐，組織部長一職即由陳果夫代理，並兼政治會議委員，而辭去該會秘書職務。