當左宗棠接到這道諭旨後，一下子癱坐在椅子上，半晌說不出話來。
臨戰易帥，這是兵家大忌，清廷不是不懂這個道理，這恰恰說明了清廷武力抗俄的立場有所改變。
左宗棠輕撫著那口黑漆棺材，流下了眼淚。他埋怨清廷的軟弱，也遺憾自己不能實現馬革裹屍的願望。
軍令如山，左宗棠雖然滿是失望，但對主戰仍然抱有一線希望。他同繼任督辦劉錦棠會商新疆的布置事宜、移交餉事軍務後，在十月十二日（11月14日）從哈密啟程入關。
為了加強京畿的防務，左宗棠命令他的親軍一千四百多步兵和六百多馬隊隨後入關。經蘭州交卸陝甘總督篆務後，在十二月初四日（1881年1月3日）從蘭州趕往北京。
伊犁回歸的坎坷路
從光緒六年七月十八日（1880年8月23日） 到光緒七年正月二十六日（1881年2月24日），曾紀澤與沙俄的談判有半年多時間。在這六個月中，沙俄看出了清朝求降的意圖，所以俄方代表對曾紀澤百般威脅，逼迫他就範，簽訂不合理條約。好在曾紀澤運用他的機敏與才幹，以左宗棠在新疆的布防為後盾據理力爭，在原則問題上不做絲毫的讓步。
再看當時的俄國，左宗棠的堅定決心和備戰行動使沙俄的侵略氣焰遭到沉重打擊。還有，左宗棠奉召回京讓沙皇政府一時摸不清清廷的真實意圖，以為清廷要讓左宗棠布置全國的反擊，因此忐忑不安。當時俄國的實際情況是內外交困，麵臨著許多困難。在伊犁的問題上，賴賬在政治上就輸理了。再次，英法兩國在伊犁問題上的態度也影響了俄國。當時俄國爭霸的重點不是亞洲而是歐洲，從而被迫稍微放鬆對中國的侵略。所以，俄國其實是色厲內荏，做出一定的讓步也是理所當然的。
結果，在光緒七年正月二十六日（1881年2月24日）中俄雙方代表簽訂了《改訂條約》（又稱《中俄伊犁條約》）。這個條約較崇厚條約雖然爭回了部分主權，俄國交還伊犁和特克斯河流域及通往南疆的穆紮爾山口，但仍然將霍爾果斯河以西的中國領土劃給俄國，並且賠款有增無減。可見，這個《改訂條約》還是沙俄強加於中國的一個不平等條約。
就在曾紀澤與俄國談判代表訂立條約這一天，左宗棠也抵達北京。當他知道這個消息後，搖頭道：“怎麼會是這樣一個結果，寒心啊。”其實，就清朝當時的實力，能簽訂這樣一個條約已經相當不錯了。左宗棠堅定反侵略的舉動，為伊犁的收回起到了關鍵的作用。
沙俄能把已經吞進肚子裏的中國領土又吐出來，這在近代史上是前所未有的事情。雖然最終沒能如左宗棠所願，讓衰弱的清朝強硬起來，但伊犁的回歸多少對他也算是一種安慰吧。
在這裏，左宗棠還有一項不得不說的功績。為了新疆的長治久安，他在督辦新疆軍務期間曾四次奏請在新疆置行省，設郡縣，在調任兩江總督後又作了第五次奏請。
清廷對左宗棠的奏請之所以舉棋不定、猶豫不決是有原因的。
關於左宗棠新疆建省的主張，朝中官員並不是人人都舉雙手讚成，因為他們沒有左宗棠的全局觀念。其中，李鴻章多次表示： 新疆改設行省，財力有所不及，再加上三麵列強環視，一般的文吏很難勝任。左宗棠已經老了，恐怕要累及後人。還有，號稱八旗名士的李雲麟，在新疆做過官，也裝模作樣地寫了《論新疆設省》一文，提出了八大不可建省的理由，還公然對左宗棠進行人身攻擊。直到光緒八年八月五日（1882年9月16日），翰林院編修劉海鼇仍上奏反對新疆建省，他認為，郡縣不能馬上設立，屯田可以專辦。
另外，滿洲貴族也抵製新疆建省。因為依據清代製度，實行軍府製的各邊疆地區，都由滿洲貴族官僚擔任要職，而不起用漢人。如果建立行省後，則滿漢兼用，漢員還占多數。基於利益的考慮，這些滿洲貴族非常反感新疆建省的事情。
好不容易收複了新疆，雖然清廷也希望加強對新疆的控製，但也不得不考慮這些反對派的聲音，所以，多次把新疆建省的方案擱置一旁不理。
後來，在左宗棠、劉錦棠等人的反複呼籲下，看到新疆善後事宜進行得非常順利後，清廷的最高統治者咬咬牙，決定采納左宗棠的建議。光緒十年九月三十日（1884年11月17 日），正式在新疆設省，任命劉錦棠為首任巡撫。
新疆改設行省，將軍府製度變為郡縣製度，削弱了地方封建統治者的勢力，逐漸消除了他們分裂祖國的隱患，有利於維護和鞏固中華民族的統一和團結。還能鞏固祖國西北邊疆，防止沙俄和英國對我國新疆領土的覬覦，增強抵禦外國侵略者的軍事力量。這樣一來，西方列強就再也不敢輕易入侵新疆了。