三月二十四日，法軍仍分三路進攻，每路約2000餘人。他們還是在開花大炮的掩護下，以主力猛撲中路長牆。激戰中，法軍利用被炮火轟塌的缺口衝上了長牆。馮子材手持長矛，大呼一聲，躍身出牆。他的兩個兒子相華、相榮緊緊跟在馮子材身後，一同衝進敵陣。看到主帥身先士卒衝鋒在前，全軍群情激奮，潛伏的300名勇士突然躍起，在敵群中拚殺；守牆的士兵也大開柵門，以排山倒海之勢向敵人衝去。兩軍短兵相接，展開了肉搏戰，一時間，“肉雨撲征衣”，“血花飛滿麵”，殺得敵人屍橫遍野，致使法軍繳槍投降，並除去帽子作叩首的樣子，可謂狼狽至極。
與此同時，東嶺也發生了激烈的爭奪戰。為奪回被法軍占領的三座炮台，清軍七上七下，不少將士受傷不下火線。王孝琪軍擊敗西路法軍，由西嶺包抄敵後，王德榜部消滅敵人運輸隊後，也從關外趕來夾擊東嶺的敵人。清軍齊心合力，一舉奪回被敵占領的東嶺三座炮台。以此為轉機，清軍逐漸掌握了戰役的主動權。清軍援兵從四麵八方湧來，1000多名越南義勇軍也奮勇投入戰鬥。經兩天激戰，法軍增援被截，彈盡糧絕，被清軍重重包圍。
鎮南關戰役，使法軍已成驚弓之鳥。馮子材決定，乘勝率軍揮戈南下，跟蹤追擊，幫助越南人民收複諒山等失地。
馮子材和王孝琪、蘇元春、王德榜等將領率部進軍。一路上，人不解甲馬不卸鞍，在越南人民的支持下，一路勢如破竹，連戰連捷。二十六日，攻克文淵。二十九日，攻克軍事重鎮諒山，重傷法軍司令尼格裏。三十一日，又收複穀鬆和屯梅，接著猛向郎甲、船頭進軍，準備攻打北寧。清軍攻勢如潮，所向披靡，法軍和被法軍裹脅的越南偽軍，已土崩瓦解。
越南人民由於痛恨法國侵略者，皆紛紛和馮子材聯絡。越南北寧總督黃延金集合各地義民20000餘人，打著馮子材的旗號。河內、太原等地人民也揭竿而起，反抗法軍。他們為清軍籌措糧食，擔任向導，或直接參加作戰。
此時，西線的滇軍、黑旗軍和越南人民義勇軍，在臨洮大敗法軍，接連攻克了越南幾十個州縣。中路的唐景崧部和越南人民聯合攻下了太原。趁此大好形勢，馮子材即約黑旗軍進攻北寧、河內兩省，準備一鼓作氣把法國侵略軍趕出越南。
中越人民抗法鬥爭的偉大勝利，迫使法國茹費理內閣下台，將法軍驅逐出越南已勢在必成。但是，由於清政府的腐敗無能和英、美、俄等國的訛詐，清政府不但與法國政府很快簽訂了《巴黎停戰協定》，宣布停戰，而且於六月九日又在天津簽訂了不平等的《中法新約》。結果，中國“不敗而敗”，法國“不勝而勝”。
停戰命令傳到前線，全軍將士無不憤慨，馮子材揮淚班師回國。
中法戰爭後，馮子材相繼調任雲南、貴州提督等職。光緒二十八年（1902）因病去職，次年（1903）七月病逝，享年85歲。