光緒十二年（1886年）四月，中國勘界代表、會辦北洋事宜大臣吳大澂與琿春副都統依克唐阿，同俄國代表、濱海省省長巴拉諾夫在岩杵河開始舉行勘界會議。吳大澂鑒於“琿春與俄國交界地方有界限不清之處”，而“土字界牌最關緊要”，如今卻已經損毀，黑頂子一帶又“久被俄侵占”，俄人在此“添設卡兵、接通電線，有久假不歸之意”，於是確定此次勘界的主要目的是“首重立土字牌交界之處，次則歸還黑頂子要隘之地”。（注：吳大澂撰：《吉林勘界記》，見楊昭全、孫玉梅編：《中朝邊界沿革及界務交涉史料彙編》，長春：吉林文史出版社1994年版，第141頁。）
按照《中俄勘分東界約記》的規定，土字界牌應豎立在圖們江左邊距海不到二十裏的地方，而俄國卻擅自設於距圖們江江口四十六裏之處，中國因此蒙受了不應有的領土損失。吳大澂要求按照原有規定重新豎立土字界牌，但巴拉諾夫拒不接受，反而偷換地理概念，玩弄江口非海口的文字遊戲，硬說“除去海口二十裏方是江口”，吳大澂駁斥這一謬論，強調“江口即海口”。（注：郭熙楞撰：《吉林彙征》，民國三年（1914年）長春版本，第88—89頁。）經反複交涉，俄國總算稍微做了讓步，同意將土字界牌設置在距圖們江江口三十裏、徑直至江口二十七裏的地方，中國雖收複了十多裏的失地，但仍然未全部收回。（注：佟冬主編：《沙俄與東北》，長春：吉林文史出版社1985年版，第287頁。）吳大澂十分珍視這一來之不易的交涉成果，親自會同俄方代表監立新的石製土字界牌，“並用灰土石片深埋堅築，以期經久”。（注：吳大澂撰：《吉林勘界記》，見楊昭全、孫玉梅編：《中朝邊界沿革及界務交涉史料彙編》，長春：吉林文史出版社1994年版，第142頁。）吳大澂在監立土字界牌的同時，還在“長嶺子中俄交界處”豎立了一個銅柱，“上麵銘刻‘疆域有表國有維，此柱可立不可移’這兩句銘文，反映了吳大澂對沙俄隨意移動界標、蠶食中國領土的憂慮心理”（注：中國社會科學院近代史研究所編：《沙俄侵華史》第2卷，北京：人民出版社1978年版，第227頁。）。
土字界牌問題解決之後，中俄雙方開議黑頂子歸屬問題。黑頂子“又名烏爾渾山，原為清政府的圍禁山場，位於圖們江下遊北岸，距俄國屯兵要地岩杵河僅數十裏，北距琿春城八十裏，為中、朝、俄彼此通往的必經之地，具有重要戰略地位”。（注：佟冬主編：《沙俄與東北》，長春：吉林文史出版社1985年版，第287—288頁。）李金鏞在光緒八年（1882年）時曾奉命對該地進行調查，“由琿春烏龍河前赴黑頂子、引牛河，至圖們江口，按圖履勘，人跡罕經之處無不周曆”，結果發現黑頂子一帶“多為俄人所占”，（注：李金鏞撰，王慶長節抄：《琿牘偶存》，清光緒十一年（1885年）常熟王氏懷古山莊刻本，第36頁。）並且已“設立卡房”。（注：李金鏞撰，王慶長節抄：《琿牘偶存》，清光緒十一年（1885年）常熟王氏懷古山莊刻本，第37頁。）李金鏞認為，按照“軍機處地圖，以紅線分界，黑頂子地在紅線內，則明明我中國地也”，（注：李金鏞撰，王慶長節抄：《琿牘偶存》，清光緒十一年（1885年）常熟王氏懷古山莊刻本，第39頁。）建議收複黑頂子。吳大澂主持第二次中俄勘界事宜時，也把收回黑頂子作為必須達到的目標之一。由於吳大澂的堅持，俄國最終同意將黑頂子交還給中國。
除此以外，吳大澂認為按照《中俄勘分東界約記》的規定，“拉字、那字兩牌之間有瑪字界牌，記文則缺而未立；帕字、土字兩牌之間有啦、薩二字界牌，地圖記文略而不詳，現應補立”，（注：吳大澂撰：《吉林勘界記》，見楊昭全、孫玉梅編：《中朝邊界沿革及界務交涉史料彙編》，長春：吉林文史出版社1994年版，第141—142頁。）於是在俄鎮蒙古街與琿春交界之路添立啦字界牌，又在俄鎮阿濟密與琿春交界之路添立薩字界牌，在拉字界牌西南大樹岡子俄境與寧古塔交界之路添立瑪字界牌。舊有之耶、亦、喀、拉、那、倭、帕七個木牌亦一律換用石牌。（注：萬福麟監修，張伯英總纂，崔重慶等整理：《黑龍江誌稿》中冊，哈爾濱：黑龍江人民出版社1992年版，第1545頁。）另外，吳大澂還認為，中俄“兩國交界地段太長，牌博中間相去甚遠，路徑紛歧，山林叢雜，本未立牌之地難免越界之人，自宜酌擇要地，多立封堆，挖溝為記，愈密愈詳”，（注：吳大澂撰：《吉林勘界記》，見楊昭全、孫玉梅編：《中朝邊界沿革及界務交涉史料彙編》，長春：吉林文史出版社1994年版，第142頁。）本著這個原則，沿中俄邊境線，共“記立封堆記號二十六處”。（注：郭熙楞撰：《吉林彙征》，民國三年（1914年）長春版本，第87頁。）
如前所述，私移界牌是沙俄蠶食中國領土的慣用手段，吳大澂對此頗為重視，決心迫使俄國的這種卑鄙手段有所收斂。根據調查，“倭字、那字二牌，均與條約不符。倭字界牌原立於瑚布圖河口，今在小孤山，距河口二裏，並非原議交界地。倭字牌以北百數十裏橫山會處，原有那字界牌，久已無蹤跡。光緒三年所補立之那字牌，在瑚布圖河口北，不及二裏，實非故處。”經過爭取，中俄雙方議定：“移小孤山倭字界牌於瑚布圖河口，以符原約；（注：倭字界牌以後又被俄國非法移動。據姚和錕、汪槱撰：《吉林邊務報告書》：此界牌“光緒二十六年已被俄人移動”，見李興盛等主編：《黑水郭氏世係錄》（外十四種）下冊，哈爾濱：黑龍江人民出版社2003年版，第2083頁。（《吉林邊務報告書》是姚和錕、汪槱於光緒三十四年十月完成之調查報告））就那字牌遺址於橫山會處重立新牌，以符原定約界。”（注：劉爽撰：《吉林新誌》，遠東編譯社1934年增訂版，第5頁。）
總之，在中俄東段邊界第二次勘界的過程中，由於吳大澂的努力爭取，中國收回了部分領土主權，但是還存在不足之處。中俄東段邊界從烏蘇裏江至鬆阿察河為界的一段，因有天然大河，界線相對比較明晰。而耶字界牌湮沒之後，“前三姓副都統長麟曾赴烏蘇裏河口，會同俄官補立界牌”，吳大澂認為該界牌重新設置“曆年未久，想致不會毀壞，且自烏蘇裏河至鬆阿察河，數百裏內以水為界，東西截然，並無界限不清之處”，（注：中國第一曆史檔案館編：《光緒朝硃批奏折》第111輯（外交·中俄），北京：中華書局1996年版，第635頁。）因而不免有些疏忽，沒有親自進行勘察，也基本上沒有予以過問。但事實遠不是吳大澂所想象的那樣簡單，大江大河雖然是天造地設，沙俄還是照樣用偷挪界牌的方法進行蠶食。如前文所述，耶字界牌在勘界之前已被俄國私移過兩次，移至烏蘇裏江北岸之包寶山處，但“包寶山猶在鬆花江（注：指黑龍江下遊。）岔流之東，距離通江尚遠”。（注：吉林墾殖分會撰：《調查東北路沿疆總綱報告》，民國稿本，第23頁。）此次勘界因界牌全部由木製換成石製，清政府遂派員與俄方重立耶字界牌。俄國為進一步蠶食中國領土，再一次得寸進尺，指鹿為馬，“以字音之稍同恃強狡執，誤通為同，指通江為混同江”（注：關於通江與混同江並非一江，在吉林墾殖分會撰：《調查東北路沿疆總綱報告》，民國稿本，第23頁中有詳細說明：“吉林省東北隅與俄羅斯隻一水之隔，北有臨江下之鬆花江（指黑龍江下遊），東有烏蘇裏江。鬆花江（指黑龍江下遊）流蜿蜒而東，烏蘇裏江湍流東北，兩江環抱。鬆花江（指黑龍江下遊）中間岔流，南達烏蘇裏江，是為通江。為兩江交通之點，航運便捷。而鬆花江（指黑龍江下遊）之正流，仍向東下，至俄界伯力地方，與烏蘇裏江合流為一，即混同江也。”）。民初吉林墾殖分會人員經實地考察後得出結論：“其實通江為鬆花江（注：指黑龍江下遊。）之分叉下流入於烏蘇裏江，水線可征，並非兩江合流，而真正之混同江在俄國之伯力地方”。但俄方故意混淆是非，“爭執不讓，並將通江以東烏蘇裏、鬆花兩江之下遊亦謂為混同江，即將石質界牌立於通江東四裏餘之地方（其地係臨烏蘇裏江北岸）”，這就是中俄第二次勘界時耶字界牌的豎立地點。但俄人還不知足，後經“數十年來江水衝激，堤岸損壞，界牌行將倒入江流，俄則趁此時機又將界牌移立於通江之西岸（即東口之西岸）、烏蘇裏江之北岸距江三丈餘高阜之上”，這就是民國初年吉林墾殖分會調查時，經俄國一再西移之後耶字界牌所在的位置。（注：吉林墾殖分會撰：《調查東北路沿疆總綱報告》，民國稿本，第24頁。）至此，耶字界牌在最初設立後，經俄人一再“明占潛侵，西進八九十裏”，以致於“自通江口以下，南北岸皆非我有”。（注：魏徹卿撰：《雞林舊聞錄》，民國二年（1913年）版本，第37頁。）亦字界牌的遭遇也是這樣。據吉林墾殖分會的調查，中俄第一次勘界時“以鬆阿察河劃為國界，樹立木質界牌於興凱湖東北小龍王廟，緊鄰鬆阿察河口之北岸，地處窪下，湖漲發靡常，未幾而界牌被水衝去，龍王廟亦隨之坍塌，至光緒十二年會同俄國，擬仍在原處重立亦字界牌，而俄人堅持不允，百計要挾，我國終於退讓，遂將石質亦字界牌立於鬆阿察河口之北二百餘步，緊鄰興凱湖邊界”，中國又喪失了部分固有領土。（注：吉林墾殖分會撰：《調查東北路沿疆總綱報告》，民國稿本，第25頁。）另外，第二次勘界後，在中俄東段邊界，俄國偷移、破壞界牌及封堆記號之事仍屢見不鮮。如前文所述之倭字界牌即為這種情況，拉字界牌也被俄國非法移“立於二人班地方。若按拉字界牌舊址計算，實向北移進三十華裏，所原立之界牌，則杳不知所之矣”。第二次勘界時所補立之瑪字界牌，“亦被俄人毀去”。（注：姚和錕、汪槱撰：《吉林邊務報告書》，見李興盛等主編：《黑水郭氏世係錄》（外十四種）下冊，哈爾濱：黑龍江人民出版社2003年版，第2083頁。此外，據姚和錕、汪槱之調查，二十六處封堆記號中之第一記號遭到破壞，而吳大澂所立之銅柱（第八記號）被俄國破壞後運至伯力博物院。均見李興盛等主編：《黑水郭氏世係錄》（外十四種）下冊，哈爾濱：黑龍江人民出版社2003年版，第2084頁。）總之，在中俄邊界上，“馬馱界碑”的現象不斷出現，俄人視非法移設界牌為家常便飯，不斷隨便蠶食中國領土，成為嚴重的邊患問題。