25日，馮子材發出了總攻擊令，中國軍隊和越南義勇軍個個爭先奮勇，從長牆和各個山頭、戰壕、樹林裏衝出，海潮般地向山穀裏的法軍衝去，經過一場激戰，法軍被殺得潰不成軍。尼格裏隻好下令撤退，留下一千多具屍體，奪路而逃。
馮子材決定乘勝追擊，不給敵人喘息之機。他率各路大軍即日啟程，一路上人不解甲、馬不停蹄，奪關斬將，捷報頻傳。3月26日，馮子材一舉攻下文淵城；3月29日，又攻下法國侵略軍盤踞在越南北部的軍事基地諒山。在攻打諒山的戰鬥中，馮子材運用“正麵明攻，奇兵暗襲”的巧妙戰術，法軍猝不及防，被殺得大敗，尼格裏也身受重傷，退出諒山得以逃命。這就是在近代中國人民反侵略鬥爭史上著名的“鎮南關”大捷。
在此同時，其他海陸戰場也都取得很大的勝利，一時，法國在越南的侵略軍，已處於草木皆兵、被動挨打的局麵。法軍大敗的消息傳到巴黎，立刻引起巨大震動和恐慌，並導致當時法國內閣總理的倒台。
在鎮南關——諒山大捷後，馮子材的大軍又以摧枯拉朽之勢橫掃法軍，若保持這種勢頭，預期在一年之內，定可全部光複越南的大好河山。
但是，清政府對法宣戰是被迫的，並沒有打到底的決心。特別是以李鴻章為首的主和派、為了維護其統治，寧願對法國屈膝妥協。就在中國軍隊節節勝利的時候，清政府竟然下令前線停戰，並限期4月7日撤退。
麵對朝廷的荒唐決定，馮子材等前線的愛國將領無不義憤填膺。馮子材代表前線軍民，數次致電朝廷，要求“誅和議之人”，廢除條約，並向朝廷表達了前線將士矢誌抗戰到底的決心。可是，這隻換回了朝廷的嚴旨斥責。這位壯心未已的老將軍，隻得揮淚班師。在馮子材大軍的回國路上，中越人民竭力挽留，痛哭不已。
馮子材愛國主義的光輝形象，長留在中越人民的心中。
簡評：
鎮南關——諒山大捷是中法戰爭中的最後一次戰役。年近七旬的老將馮子材，依靠高超的指揮技巧和廣大愛國將士、民眾的支持，粉碎了法軍妄想擊潰清軍主力的圖謀，並在政治上導致了法國內部矛盾激化，迫使茹費理內閣倒台，在近代中外曆史上都產生了重大的影響。在其病逝後，有長短挽聯兩副，深表人們對他的緬懷之情。
長聯：
秉鉞佐中興賜諡建祠功媲淩煙光國史；
捧珠綿後福相形卜兆秀迎那霧峙朝峰。
短聯：
萬裏幹城一方砥柱；
寸心金石百世馨香。