1923年2月，孫中山再回廣州重建大元帥府。這時，廣東革命形勢迅猛發展，迫切要求建立一支可靠的革命武裝力量。而早在1921年12月，共產國際代表馬林會見孫中山時，就孫中山、宋慶齡在閱兵台上。向他建議“創立軍官學校，建立革命軍的基礎”。鑒於過去長期依靠舊軍隊進行革命而屢遭失敗的痛苦教訓，孫中山在籌劃改組國民黨的同時，也積極醞釀創立一所軍官學校。 1924年5月，在蘇聯和中國共產黨的幫助下，孫中山在廣州黃埔港附近的長洲島上，創辦了“中國國民黨陸軍軍官學校”，簡稱黃埔軍校。