光緒十年（1884年）十一月下旬，法軍爭取到了時間，增強了在越南的兵力。它立即發動新的進攻，以主力部隊攻擊王德榜駐守的豐穀。王德榜軍奮勇抵抗，經過一晝夜的激戰，傷亡慘重，軍火已不繼，援軍蘇元春部違命不到，王德榜已招架不住，隻得率軍突圍，轉進到板峒，後來又退到車裏。法軍就轉而進攻潘鼎新駐守的諒山。潘鼎新急命王德榜軍來援。十二月廿九日，王德榜將軍火輜重轉移到祿州，自己率部隊趕往諒山支援。他的部隊還沒有趕到，潘鼎新的守軍在法軍猛烈攻擊下，毫無鬥誌，不戰而潰，大部隊一直逃到鎮南關。法軍緊追不舍，潘鼎新軍繼續潰退，一路上還大事劫掠，廣西邊境地區一時兵慌馬亂，老百姓叫苦連天。主帥潘鼎新逃得無影無蹤，史書記載，說他“不知所往”。
這次諒山、鎮南關失守，完全是潘鼎新秉承李鴻章投降路線的惡果。但他後來又鑽出來，反而把責任推在主戰派、英勇抵抗的王德榜的身上，將自己的責任賴得一幹二淨。
當潘鼎新軍隊狂奔亂竄時，王德榜和老將馮子材約定，二人率部堅守陣地，伺機打擊法軍，由馮子材守憑祥，王德榜守由隘。法軍在攻占鎮南關後，發現孤軍深入，不敢久停，就放火燒關，軍隊退到文淵。馮子材於是趁機率軍進入鎮南關內，立即在關前隘築壘掘壕固守，與駐守由隘的王德榜部互相呼應。
二月初七日，法軍不甘心失敗，再度來犯，幾次猛襲關前隘，馮子材軍一連失去數壘，形勢危急。王德榜及時從由隘派兵來援。他采用了劉錦棠的用兵策略，派出一支正麵部隊作為佯攻，另出一支奇兵，翻越荒山僻徑，從甫穀抄攻法軍後路。法軍沒有料到這一支奇兵，毫無防備，後路部隊被全部殲滅，軍火輜重也都被王德榜軍繳獲。前線法軍發現後路被截斷，軍火又已匱乏，士氣渙散，法軍將領還想鼓動士兵進攻，以振奮渙散的軍心，但士兵們已無心戀戰。老將馮子材已得知王德榜軍在後路擊潰敵軍的消息，他身先士卒，帶領部隊奮勇抵擋，王德榜軍從法軍背後攻來，法軍在夾擊之下，全線崩潰。二月十一日，馮、王兩軍將鎮南關所失營壘全部收複，又乘勝克複文淵。十三日蘇元春軍也加入作戰，三軍聯合攻占了敵軍老巢驅驢，當夜收複諒山，這就是舉世聞名的“鎮南關——諒山大捷”。清軍一直追趕法軍到堅老，法軍統帥尼格理在戰鬥中受重傷。同時，劉永福的黑旗軍在西線也獲得臨洮大捷。
越南人民得知清軍大勝，紛紛聞風響應起義。越南官員將北寧等處義民集中起來，成立“忠義五大團”，打出馮子材軍旗號，自願為清軍挑飯、作向導，隨軍助剿。中國國內人民也都歡欣鼓舞。
當法軍戰敗的消息傳到巴黎時，引起了法國全國上下的震動。發動侵略戰爭的茹費裏內閣在法國人民的抗議和反對派的攻擊下隨之倒台。法國當時並沒有足夠的力量，去支持一支萬裏外的部隊作戰，在海陸兩線都不能得手的情況下，他們就急於求和，企圖撈取一些便宜，暫時結束這一場在遠東的糾葛。
西方各國在侵略瓜分中國的問題上，向來是既有矛盾，卻又相互協調、幫助的。他們既不願意看到法國單獨取得過多的勝利，也不願意中國人強大起來，真能打敗西方國家。拿破侖早就說過：“當中國這頭睡獅醒來的時候，全世界都會發抖。”他們不願意這頭睡獅醒過來。一個在中國任海關總稅務司的名叫赫德的英國人，早些時候已看到形勢於法國並不很有利，就出麵進行所謂“調停”。清政府雖然與法國宣戰，其實投降派占壓倒優勢，他們接受赫德的調停。赫德派了另一個英國人稅務司金登幹去巴黎，和法國政府秘密談判。法國政府那時還沒有把中國放在眼裏，企圖在戰場上多撈一點，以便在談判桌上更為有利；談了一個多月，尚不得要領。當法政府得到鎮南關、諒山大敗的消息後，就改變態度，願意稍許降低條件，達到和議。
清政府中的投降派認為這是最好的求和機會。李鴻章是既怕打敗仗又怕打勝仗的人；如今打了大勝仗，又害怕得不得了，他認為隻要和外國打仗，“大局將不可收拾”。他對於金登幹傳遞來的信息，認為是求之不得。清政府於是委托金登幹和法國政府於光緒十一年二月十九日簽訂了《中法議和草約》，內容除停戰外，重申在天津訂立的《簡明條約》有效，並規定中國從越南撤兵。這個草約立刻送往清朝廷認可，以備中法兩國正式簽約。清廷在《草約》簽訂的第三天，即二月二十二日（1885年4月7日），慈禧太後立即下詔停戰。
停戰令迅速傳到前線，這時中越邊境將士士氣高昂，中越軍民同仇敵愾，正在奮勇追擊潰敗的法軍，突然傳來“停戰撤兵”的諭旨，將士們驚訝萬分，人人忿恨不已。據史書記載說，將士們“拔劍砍地，恨恨連聲”。王德榜和馮子材正在追擊法軍途中，得到諭旨後，雖然氣忿萬分，但隻能服從聖旨，放棄已收複的城池，將軍隊撤退到廣西境內。
上諭三月初一日停戰，十一日撤兵。馮子材和王德榜這些前線將領實在氣忿不過，在規定停戰那天子刻（零時），打電報給兩廣總督張之洞說：“去歲上逾：議和者誅！請上折誅議和之人。士氣可奮，法可除，越可複，後患可免。”這是前線將士對賣國投降分子的嚴厲的撻伐，然而無濟於事，這封電報不會取得什麼結果。
相反，投降派本來就對主戰派恨得牙癢癢的，這時他們氣焰正張，就準備一個一個來收拾那些主戰派。主戰派首領左宗棠、張之洞等一時動搖不了，就先從容易收拾的低層下手。光緒十年底、十一年初，廣西巡撫潘鼎新不戰潰逃，連失諒山和鎮南關，潘鼎新卻將罪責推到王德榜的身上，朝廷中主和派掌權，偏聽偏信，將王德榜革職。當他得到革職命令的時候，正在乘勝追擊法軍途中，以一個為國立下大功的人，卻蒙此千古奇冤，有正義的知情人士都忿恨不已。彭玉麟聽到後，深感不平，上奏陳明實情，為他雪冤，肯定他立的功績，說： “二月初六七，馮子材苦戰兩月之久，非王德榜截其後路，斷其軍火，關內外夾攻，法軍亦不能如此大潰。”
當左宗棠派王德榜去中越前線時，曾叮囑他：“此次奏派赴越，切勿有初鮮終，負我期望。現在朝命主戰，有機即圖，不可畏難。”後來王德榜與潘鼎新意見不能協調，一個主戰，一個主和，王德榜又向左宗棠請示，宗棠告他：“事機之來，仍須拿定主意，相機剿辦，不可過為潘撫軍遙製，致誤戎機。”“將在外，君命有所不受”，何況一巡撫，何況又是主和派。宗棠認為當時朝廷主戰，對於主和派逃跑主義的命令，則不可盡聽，以免喪失戰機。殊不知慈禧和朝廷後來改變了主意，這是他所未料到的。當然，即使已料到這一點，將士在疆場上仍然要奮力作戰，不能多所顧及。
潘鼎新打擊、陷害主戰派，是秉承李鴻章的意旨，王德榜不過是小目標，大目標是左宗棠。潘鼎新知道左宗棠曾指示王德榜不必聽他的調度，為了陷害宗棠，就企圖將他自己諒山、鎮南關失守的責任反推在宗棠身上，他給張之洞的電報說：“郎青信左帥‘勿聽節製’一言，掣肘貽誤至今。”其意是：諒山、鎮南關失守是由於王德榜受左宗棠指使，未聽他的調度所致，真是彌天下之大謊。王德榜知道後，“毛發悚然”。他究竟是一名武將，沒有料到官場中鬥爭如此卑鄙惡毒，自己受陷害還不要緊，讓他所尊敬的老上司蒙受委曲，他卻十分痛心。 左宗棠派遣王德榜率“恪靖定邊軍”去中越前線，正是由於他指示王德榜奮力抗戰，勿受主和派節製，這才取得了鎮南關、諒山大捷。如果王德榜聽信潘鼎新的指示，也就不會有這次震驚中外的大捷了。
曆史給了王德榜一個不幸的結局，他終於被革職，由於彭玉麟等主持公道，總算沒有進一步治罪。不久，馮子材和劉永福也陸續調職，官方給他們多方刁難，他們三人都在寂寞潦倒中鬱鬱以終。