1924年1月,失業的徐向前冒著風雪嚴寒重返太原,謀求職業,適逢孫中山在廣州創辦黃埔軍校,張榜招收學生。徐向前喜出望外,約了幾個同鄉,湊了一點路費,由閻錫山部隊中一位姓郭的軍官介紹,乘火車南下到上海參加初試。4月中旬,徐向前在上海環龍路1號參加考試,沒過幾天,通知來了,要他到廣州參加複試。徐向前和一些參加考試的同鄉,又乘上了從上海開往廣州的輪船。複試在廣州高等師範學校進行。結果,徐向前與同來的十幾個山西同鄉,全部錄取。5月初,徐向前躊躇滿誌,踏上了黃埔島,被編入黃埔軍校第一隊,從此,開始了戎馬生涯。
黃埔軍校舉行開學典禮,孫中山親臨學校檢閱,並作了重要講話,以後又作過多次演講。孫中山積極創建革命軍的思想,給了他深刻的影響。徐向前在校學習十分勤奮。軍校的訓練文件中明文規定:"社會主義、共產主義、馬克思主義等書籍,在本校學生皆可閱讀。"徐向前開始讀到了《蘇聯研究》、《各國革命史》、《帝國主義》、《三民主義》以及軍校出版的各種書報雜誌,對三民主義、共產主義、俄國十月革命,有了進一步的了解和認識。軍事課中的四大教程,他更是感興趣。《步兵操典》、《戰術學》、《射擊教範》、《野外勤務》、《兵器學》、《築城學》、《地形學》、《軍製學》、《交通學》等等,他都認真鑽研。在課堂學習的同時,他還受到了軍校正規的軍事訓練。每天,天不亮就起床跑步。有時,珠江潮水淹沒了岸邊的操場,仍在泥水中操練。緊張的軍校學習,為徐向前後來在海陸豐、鄂豫皖、川陝以及以後戰爭中軍事才能的發揮打下了基礎。
黃埔軍校是國共合作的產物,一開始就不可避免地存在著激烈的鬥爭。徐向前在共產黨員蔣先雲的影響下,參加了周恩來支持創辦的"青年軍人聯合會",與國民黨右派和"孫文主義學會"中的反共分子進行鬥爭。有的人問他:"你這樣革命,為什麼不加入CP?"他回答說:"我不做跨黨分子。"(徐向前入校後第一天上課,就已經填表集體加入國民黨)此時的徐向前還沒有完全擺脫舊的傳統觀念的束縛,還停留在激進的民主主義思想階段。
1924年9月,孫中山到韶關設立大本營,誓師北伐。徐向前所在的黃埔一隊,作為孫中山的衛隊同往韶關。不久,廣州城內發生了商團叛亂,他們又立即回師廣州投入了平定商團的武裝叛亂。這是徐向前第一次經受戰場硝煙的考驗,他以作戰勇敢、沉著,贏得了革命軍人的榮譽。
1925年初,徐向前又參加了著名的第一次東征作戰。這時的徐向前已提前從第一期畢業,留校在第三期入伍生隊第三隊當排長。這次東征,徐向前率領入伍生隊,一路高唱:"以血灑花,以校作家,臥薪嚐膽,努力建設中華"的校歌,日夜奮戰在東江地區。他們每到一地,動員群眾,宣傳群眾,隊伍中響亮地提出"不要錢,不要命,愛國家,愛百姓"的口號。他們以嚴明的紀律,英勇的戰鬥,贏得群眾的歡迎和擁護。在東征中,學生軍中的共產黨員、共青團員不怕流血犧牲的英勇獻身精神,給他留下了深刻的印象。
二、走上紅四方麵軍總指揮崗位
1927年,是中國現代史上腥風血雨的年代,也是對一切革命青年嚴峻考驗的年代。
"4·12",這是個臭名昭著的日子。這一天,蔣介石在上海發動反革命政變。緊接著,原武漢國民政府獨立第十四師師長夏鬥寅叛變,並且聯合四川軍閥楊森進攻武昌這個革命的大本營。其先頭部隊,已逼進武漢近郊的紙坊車站。
嚴峻的形勢下,一些人動搖了,逃走了。剛剛加入了中國共產黨的徐向前,卻堅定地站到了革命行列,率隊參加中央獨立師,配合葉挺的第二十四師兩個團,星夜開出了武昌城。
中央獨立師是"學生軍",熱情高,但不會打仗。
許多人連行軍、宿營都不懂。徐向前受過黃埔軍校的嚴格訓練,又參加了東征等戰鬥,已有了一些實踐經驗。他一路行進,一路教練。在武漢以西的桃花鎮,中央獨立師包圍了敵川軍範紹增一部。範負傷潛逃,中央獨立師乘勝追擊,經金口、紫陽、汀泗橋,直到通海口。與此同時,葉挺指揮第二十四師,在紙坊一帶,把夏鬥寅打垮。
這是徐向前入黨後第一次領兵打仗。
形勢在繼續惡化。為保存革命力量,根據黨組織的決定,徐向前調出武漢軍校,來到了張發奎的國民革命軍第二方麵軍司令部。但是,張發奎不久就宣布:"CP分子三天以內保護,三天以外不負責任!"向共產黨員下了最後通牒。徐向前連夜離開九江,到武漢、上海,尋找黨的組織。
1927年9月,徐向前在上海找到黨中央軍委機關。這時,廣州起義正在準備中,工人赤衛隊正缺少軍事骨幹。徐向前來到了廣州。