在條約簽訂前後，法軍開始攻擊基隆。
5月17日，福祿諾交給李鴻章一份節略，通告法國已派巴德諾為全權公使，來華談判詳細條款，並單方麵規定了在越南北部全境向中國軍隊原駐地分期“接防”的日期。李鴻章沒有肯定地同意這個規定，又沒有明確反對，也未上報清廷。
廣西巡撫潘鼎新於6月份彈劾王德榜增援諒山不力，清廷將王德榜革職，所部由蘇元春統率。不久，王德榜又奉命率部趕赴那陽，進逼船頭。他的左路部隊連戰皆捷，殲滅法軍一千多人。
同一個月，法國政府與越南訂立最後的保護條約。
6月23日，法軍突然到諒山附近的北黎地區“接防”，要求清軍立即退回中國境內。
米樂派遣杜森尼中校率領九百人從河內出發，向諒山進軍，到達觀音橋附近，遇到王德榜的湘軍。湘軍勸阻法軍停止前進，並致信法軍說：兩國既已議和，大可不必再起釁端。
杜森尼不聽，要求湘軍立即退回中國境內。湘軍表示沒有接到上級命令，不能移動。杜森尼下令進攻，法軍奪占四周山崗。湘軍立即還擊，戰至深夜，雙方對峙。
王德榜組織優勢兵力反擊，除以兩營作為預備隊留守觀音橋老營外，其餘六營全部投入戰鬥。其中三個營扼守大路正麵抗擊，一個營從右側迂回進攻，兩個營從左側包抄，截斷法軍後路。法軍三麵被攻，被迫收縮。
湘軍越戰越勇，正麵抗擊的清軍其他部隊，聽說兩翼發動了攻擊，便開始出擊，極力猛攻，法軍抵擋不住，開始潰退，清軍追擊幾裏才返回駐地。
這一次戰鬥，法軍自稱死傷一百多人。英國隨軍記者描述了當時的情形：“清軍有很多耳目，並占據了有利地勢。他們從前方和兩翼發射強烈的炮火，法軍立即回頭逃跑，雇傭兵們開始退卻，不久就成了正式的潰退，差不多所有的行李和裝備的軍火都落在中國人手中。”
這是清軍在中法戰爭開始以來獲得的第一次勝利，稱為“北黎衝突”，也稱“觀音橋事變”。
法國以此為擴大戰爭的借口，照會清廷，要求清廷通令駐越清軍火速撤退，並賠償軍費兩億五千萬法郎，約合白銀三千八百萬兩。法國還威脅說，他們將占領中國一兩個海口，當作賠款的抵押。
這一次，清廷堅決反駁了法國的無理要求，指出諒山是中國駐兵的地方，“法兵前往諒山，撲我營盤，先行放炮，中兵不能不抵禦”。奕譞認為，清政府的這種強烈態度，“是二十餘年中國第一次振作之照會”。
清廷命令潘鼎新提醒軍隊不可因勝利而驕傲，要更加嚴密防守，遇到來犯的敵人，一定要奮勇迎擊，並且命令東南沿海要嚴加防範。
7月11日，清廷命令龐際雲按月為蘇元春率領奔赴廣西的一千八百多名湘軍將士籌餉。
清廷又於7月下旬派兩江總督曾國荃在上海與巴德諾談判，以求解決爭端。談判未有結果，法國重新訴諸武力，將戰火擴大到中國東南沿海。