一連幾天，俄方沒有任何動靜，總理衙門卻連連催促曾紀澤盡快完結談判。慈禧太後甚至發來懿旨，要求曾紀澤按總理衙門達成的妥協簽約。曾紀澤全都頂住不辦。
在生命中最艱難的時刻，曾紀澤承受了巨大的壓力。直到一天，曾紀澤收到了一封急電。把電文看完後，他突然有如釋重負之感。原來當天，沙皇亞曆山大二世在閱兵時遭炸彈襲擊身亡！曾紀澤相信沙俄內政將急劇惡化，政局不穩，就沒有在談判桌上強硬的資本了。真是山重水複疑無路，柳暗花明又一村。
曾紀澤馬上起身，借口向新皇帝遞交國書去皇宮探探外交風聲。不久，曾紀澤就收到了沙俄外交部的答複，同意伊犁問題按曾紀澤提出的條件簽約，並且建議第二天午後就簽字。
1881年2月的一天午後，中俄終於簽訂了《中俄伊犁條約》。清朝除接管伊犁九城外，爭回了原來崇厚私自割讓的伊犁南麵兩萬多平方公裏的領土。盡管條約依然割讓了部分土地給沙俄，還增多了對沙俄的賠款（加付俄國900萬銀盧布，約合白銀500餘萬兩)，並在商務方麵作了讓步。新約傳回國內，左宗棠認為條約成功改立原因是俄國擔心真的開戰，怕清軍“徑取伊犁，彼中草木皆兵，遂弭首歸誠，退就議和”。但對改訂後的《伊犁條約》，左宗棠還不滿意，認為：“伊犁僅得一塊荒土，各逆相庇以安，不料和議如此結局，言之腐心。”的確，《伊犁條約》依然是一個不平等條約，中國喪失了領土、賠款、商務和外交上的許多權益。但曾紀澤畢竟為國家爭回了大片土地，廢除了部分其他不平等內容，遏製了沙俄在中國西北擴張的勢頭。這是晚清外交少有的大勝利。
條約一公布，世界輿論頓時嘩然。英國駐俄國公使德佛欏當日向英國外交部電告此事時稱：“奇跡！中國的曾紀澤已迫使俄國作出了它未做過的事，把業已吞下去的領土又吐了出來！”法國駐俄公使商西也用“奇跡”評價曾紀澤的表現：“無論從哪方麵看，中國的曾紀澤創造的都是一個奇跡！”國內更是讚譽之聲迭起。大學者、乾嘉學派的重要代表人物俞樾用了16個字來評價曾紀澤的這次外交功績：“公踵其後，十易八九，折衝樽俎，奪肉虎口。”
二
時勢造英雄，晚清最大的時勢是西強東弱，清朝國力越來越弱，在屈辱的深淵中越陷越深。曾紀澤個人也受到弱國外交的限製。人說，弱國無外交。曾紀澤的表現證明，弱國更需要外交，需要用好外交規則和國際輿論，在現存的遊戲規則下麵盡可能維護本國利益。這就要求外交官需要有卓越的外交能力和高超的外交技巧。
曾紀澤一生的悲劇在於，他自己是弱國的強外交官，而國內的袞袞諸公渾渾噩噩，不能支持他的外交作為，反倒老是拆他的台。
《伊犁條約》談判的時候，總理衙門就在英法俄等國的壓力下宣布免除崇厚的“斬監候”，後來又將其“加恩開釋”。英法俄等國不希望中國少一個隻知妥協的外交庸才，假如中國人都成了精明的外交家，列強就訛詐不到什麼權益了。而總理衙門是想通過釋放崇厚來向俄國“示好”，解決改約問題。“示好”還是“示弱”，“幫大忙”還是“幫倒忙”，曾紀澤最清楚。
1883-1884年，曾紀澤在巴黎就越南局勢與法國政府進行了談判，立場強硬為國爭利。但朝廷上層一意主和，決心妥協。結果，曾紀澤被解除駐法公使的職務，並在1885年6月卸任駐英俄公使職務，被召回國。曾紀澤離開了外交舞台，隻能沉溺於國內保守迷信、蠅營狗苟的官場。一個人最大的悲哀就是命運把他放到與他個性能力完全相悖的環境中，人不能盡其才，內心會鬱悶無助。曾紀澤回國後先後任戶部、刑部、吏部等部侍郎，也擔任過總理衙門的外交大臣等職務。他的觀念遭到了許多人（包括在外交事務中與曾紀澤不對付的赫德）的反對，他的舉措遭到了他們的阻撓。朝政整體腐敗，曾紀澤歸國後無甚作為，不滿52歲便鬱鬱而終，諡號“惠敏”。