左宗棠向朝廷建議，在黑龍江省也要大造聲勢地開始備戰，他特別希望顯示國家的力量，並且這個力量不要局限在一個地方。他給總理衙門寫信說，戰爭就如同一盤棋，棋手的技巧決定了整盤棋的勝負，所以沒有人能預測結局會怎樣。
曾紀澤在俄國談成了一個新的條約，1881年2月，雙方正式簽署了這個條約。基本上，中國按照自己的要求將伊犁河穀的主權收回，其中還包括對於特克斯河穀和關隘的控製權；領事館則減少為兩個，一個設在吐魯番，另一個則設在嘉峪關；占領伊犁期間的維軍費用則提高到了900萬盧布。這個條約立即被中國人接受了。
這個條約還有一個重要意義，在19世紀的外交史上，它是中國人取得的唯一一個明顯的勝利。中國在這個時期的標誌，是在每個方麵都遭到失敗、屈辱和被蠶食。在相比較的意義上而言，它是中國人取得的一個巨大勝利。在那個特殊的世紀裏，這是僅有的一次，一個強權占據著有利位置卻從中國領土上退下了。這次成功帶來的諸多榮譽，都被分派到了別人身上。
在人們看來，左宗棠和這件事的關聯隻是建立在一種推論中，認為在此事的解決上，他堅定尚武的態度是一個障礙。但是，收回伊犁的一個重要條件，就是首先要將新疆的其餘地區全部收複，而這個偉業是左宗棠完成的。
新疆收複之後，在處理和俄國的邊界關係上，左宗棠非常謹慎，防止出現任何細小的突發事件，沒有給伊犁問題的解決添一丁點亂子。作為所謂的主戰派領袖，他所做的所有努力，就是阻止中國政府接受之前談判的《裏瓦幾亞條約》。1
881年，把伊犁從俄國人手中收回來，基本上全都是左宗棠的傑作。他的成功並非靠在戰場上的虛張聲勢，而是依靠他對問題的深刻理解，以及在這個基礎上所做出的有力行動。
1878年12月，在攻克喀什之後的時間裏，左宗棠一直關注著新疆的重建和重組。他重新測量農地，重新規劃行政區域，重建城鎮和村莊，改革財政體製，改革貨幣，設立學校，試圖引進養蠶業，鼓勵農業生產，並且在這個地區建立一種行政體製，其基礎是恢複本地推舉頭領來管理百姓的辦法，並將其正規化。
1884年，新疆建省，左宗棠建立並完善的行政體製非常有用，直到辛亥革命成功、清朝政府被推翻之後，依然在該地區發揮作用。在新疆某些特殊的地區，這些體製直到今天仍然有效。
在他曾經建立的學校中，他鼓勵學生學習漢語，但並不強製推行漢語教學。他推廣漢語的目的是促進漢人官員和當地百姓的溝通交流，而不是為了用漢語來取代當地語言。在深入而充分地研究了百姓的傳統、特性和習俗之後，才形成了整個體製。設計體製的目的不是為了改變當地人的特色和習俗，而是為了在實施管理時能夠得到他們的充分理解，為了讓他們能在這種特殊的行政體製下生活得滿足而和平。
在新疆的每一片土地上，都有著動亂帶來的極大破壞，比起塔裏木盆地，北路地區的情況更糟。有一份報告中提到了當年動亂所帶來的巨大破壞：動亂發生之前，烏魯木齊和這個地區的村莊中共有戶數23,780戶，而經曆戰爭之後，隻剩下了6,260戶。漢人根據實際經驗得出了一種統計方法，計算每戶人時按8口人算，動亂前，該地區有190,240人，而在動亂結束之後，隻剩下了50,080人。比起生命破壞，財產損失還要更大。
在1880年的夏季快要過去的時候，很明顯，俄國人願意重新開啟關於伊犁河穀的談判，並且已經產生和中國和解的意願。這使得中國政府在此事上也有了充分的把握，因為他們也同意讓步。左宗棠奉命將西部的公務處理完畢之後，啟程前去北京。上
諭從北京發出的日期是1880年8月11日，上麵說，現在朝廷麵臨的情況非常嚴重，並且有著深遠的影響，因此，皇帝需要一名軍機大臣，而這名大臣需要在行政和軍事上有著豐富實踐經驗的人來擔任。
新疆地區的總司令由劉錦棠繼任，張曜被提拔為副總司令。劉錦棠奉命離開喀什，11月8日到達哈密。12月22日，左宗棠抵達蘭州，在經過了幾天的休整之後，1881年1月3日，他開始繼續自己的旅程。
甘肅傳遍了總督左侯爺要離開他曾經建功立業之地的消息。依據中國人的計算方法，這時候的左宗棠已經70歲了，可以肯定的是，這位大總督此次離開甘肅，就會一去不複返了。
此時，在甘肅的每一個城鎮，甚至是在最為偏遠的村莊，那些日子裏，左宗棠的離去都成了人們談論的唯一話題。漢民和回民都為他的離開而感到不安。的確可以看出，他們對左宗棠非常信任，隻要他在這裏，就使他們覺得安全可靠。在左宗棠離開蘭州的那天，所有的商鋪都歇業了，這個讓他們學會去信任、去畏懼、去尊敬的人，贏得了全城人的尊重和送別。
據說當時，百姓排了100多裏路，在他經過的時候，好多人還向他磕頭。在沿途經過的每座城市和每個鎮子裏，居民們都爭相跑出來迎接他，迎接這個給大西北帶來了和平、繁榮和秩序的人。
1881年2月24日，左宗棠抵達北京，大約在同一時刻，他接到了中俄兩國簽訂最終條約的消息：新疆的最後一角，回到了中國人的管轄之下。