二十五日，馮子材發出了總攻擊令，中國軍隊和越南義勇軍個個爭先奮勇，從長牆和各個山頭、戰壕、樹林裏衝出，海潮般地向山穀裏的法軍衝去，一場激戰，法軍被殺得潰不成軍。尼格裏隻好下令撤退，留下一千多具屍體，奪路而逃。
馮子材決定乘勝追擊，不給敵人喘息之機。他率各路大軍即日啟程，一路上人不解甲、馬不停蹄，奪關斬將，捷報頻傳。三月二十六日一舉攻下文淵城；三月二十九日，又攻下法國侵略軍盤踞在越南北部的軍事基地諒山。在攻打諒山的戰鬥中，馮子材運用“正麵明攻，奇兵暗襲”的巧妙戰術，法軍猝不及防，被殺得大敗，尼格裏也身受重傷，退出諒山逃命。這就是在近代中國人民反侵略鬥爭史上著名的“鎮南關——諒山”大捷。
在此同時，其他海陸戰場都取得很大勝利，一時，法國在越南的侵略軍，已處於草木皆兵，被動挨打的局麵。法軍大敗的消息傳到巴黎，立刻引起巨大震動和恐慌，並導致當時法國內閣總理的倒台。
在鎮南關——諒山大捷後，馮子材的大軍又以摧枯拉朽之勢橫掃法軍，預期在一年之內，全部光複越南的大好河山。
但是，清政府對法宣戰是被迫的，並沒有打到底的決心。特別是以李鴻章為首的主和派、為了維護其統治，寧願與法國謀求妥協。就在中國軍隊節節勝利的時候，清政府竟然下令前線停戰，並限期四月七日撤退。
麵對朝廷的荒唐決定，馮子材等前線的愛國將領無不義憤填膺。馮子材代表前線軍民，數次致電朝廷，要求“誅和議之人”，廢除條約向朝廷表達了前線將士矢誌抗戰到底的決心。可是，這隻換回了朝廷的嚴旨斥責。這位壯心未已的老將軍，隻得揮淚班師。在馮子材的大軍回國路上，中越人民竭力挽留，痛哭不已。
馮子材愛國主義的光輝形象，長留在中越人民的心中。