光緒六年四月，左宗棠堅決表示自己收複伊犁的決心，命人抬著棺材從肅州出發，五月抵達哈密。俄國人聽說清軍大兵出動，就增兵守衛伊犁、納林河，另外派兵艦在海上巡弋，以震撼京師。此時天津、奉天、山東等地也同時告警。七月，朝廷下詔讓左宗棠回京城任顧問，讓劉錦棠代替他。俄國人也害怕清軍的威武，擔心事態發展後會引起決裂而挑起戰端。次年正月，中國在賠款上又做出讓步後，清與沙俄終於達成了《中俄歸還伊犁條約》，中國收複了伊犁的絕大部分地區。
入京出京披甲領兵
左宗棠用兵善於審時度（duó）勢，把握戰機，籌措戰事，更是注重節製兵丁人數，並且以保證糧餉充足為根本。當時剛開始西征，左宗棠擔心各行省協助軍餉不能按時到達，曾經上疏建議向外國借款。沈葆楨反對他的建議，光緒皇帝下詔說：“左宗棠以西線戰事為重，國家又何惜千萬金，特撥給款銀五百萬兩，再準允他向外國借貸五百萬。”左宗棠部隊出塞共20個月，新疆南北各城能全部收複，一個重要的因素就是能夠做到軍響及時供給充足。當初議論西部邊防事務時，左宗棠主張發展屯田，聽到的人都認為左宗棠迂腐迂（yū）腐：（言談、行事）拘泥於陳舊的準則，不適應新時代。。等看到左宗棠上奏論述關內外過去屯兵的利弊，以及論及將兵農劃開為二，挑選精壯的人為兵丁，讓老弱的人去屯田墾地，大家於是才佩服左宗棠老謀深算。新疆平定後，朝廷升調左宗棠為軍機大臣。入朝覲（jìn）見後，皇上賞賜左宗棠可以在紫禁城內騎馬，可由內侍二人攙扶著上金鑾（luán）殿。左宗棠在朝廷任高職，引起朝野上下的轟動。很多讀書人興奮地議論說，中國相當長時間落後，非常脆弱，這次左宗棠打敗了沙俄，中國有希望了。外國人也漸漸傳說他的戰功。他剛入京師時，內城有教堂高樓，在樓上可以俯瞰宮殿，民間老百姓傳說左侯到，教堂高樓就要被搗毀。外國人為此也惶惶不安。左宗棠不得不公開貼出告示讓大家放心，於是謠傳停止了。左宗棠在軍機處，因他長年在外征戰並不熟悉朝中的禮節、掌故，因而屢屢受窘。他性格耿直，難免得罪人，因此就有許多同僚多厭煩埋怨他。宗棠本人也不樂意居住在京城之地，於是進京不久，便稱病乞求引退。九月清廷命他出任兩江總督、南洋通商大臣。左宗棠上任後出巡吳淞，路過上海時，洋人為左宗棠樹龍旗，鳴禮炮，非常恭敬地歡迎他。
光緒九年，法國人攻打越南，左宗棠這時已70有餘，且身體多病，已致仕在家。但當他聽知此消息時馬上請求到雲南指揮軍隊，並下令讓舊部王德榜在永州招募軍隊，號稱“恪靖定邊軍”。到光緒十年，中法戰爭終於爆發，雲南、越南官軍潰敗，左宗棠被召入京，再次任職軍機處。不久法軍大舉向中國內地進犯，光緒皇帝詔令左宗棠到福建視察部隊，左宗棠命王鑫（xīn）之子王詩正暗中率軍渡海到台灣，號稱“恪靖援台軍”。王詩正到台南，受到法兵阻擊，他與台灣軍民一道最終擊敗法軍。而王德榜會合其他部隊在諒山取得大捷。中法和議達成，左宗棠稱疾請求告退，但尚未獲準，七月在福州病逝，時年73歲，贈太傅，諡“文襄”。將其靈位入祀於京師昭忠詞、賢良祠，並在湖南以及立有戰功的各省建立專祠祭祀。有《左文襄公集》。