但是，西北問題並未完全解決。伊犁仍在俄酋手中。清政府多次提出交涉，要求俄國履行諾言，歸還伊犁。俄國不僅不想歸還，還想進一步擴大權益，大肆挑撥少數民族與中國中央政府的關係。說什麼如其做弱國的奴隸，不如做強國的臣民。富有強烈愛國思想的左宗棠憑借豐富的軍事經驗和對敵我形勢的分析，指出收複伊犁的迫切性和必要性。他向朝廷奏報說：“俄人占伊犁後，兵員、商戶都集中在伊犁東南的惠寧、熙春、寧遠三城，西北舊四城空無一人。其意在於扼守並向東爭地，由於俄人在中亞的急劇擴張，伊犁和喀什噶爾已與俄界相鄰。所以決不能把這塊膏腴之地用以資敵，更不能使這塊兵家必爭之地成為俄人擴張的跳板。所以要鞏固西北全局，必須收回伊犁。”
左宗棠向清廷建議：“先之以議論，委婉而用機；次決之戰陣，堅忍而求勝。”他主張在沿邊修築防禦工事，在西部舊四城屯兵防守，東三城住戶應給予便利讓其西返。南八城收複之後，軍糧可基本自給。而俄國正忙於巴爾幹戰事，無暇東顧，應乘此良機，收回伊犁。清廷得到左宗棠的疏報，派侍郎崇厚出使俄國。俄國在巴爾幹戰爭中沒能得到便宜，因而有失之東歐，求之中亞的意思。崇厚極端昏庸，又不明伊犁情形，結果隻收得伊犁一座孤城，還要賠償俄國白銀280萬兩，割讓伊犁南部最富有的特克斯河流域等若幹土地。這不僅使伊犁失卻富源，還使它陷於俄國三麵包圍之中，鋨國可隨時順伊犁河而下，占伊犁有如探囊取物。就全疆來看，這一地區是通往山南的咽喉，如劃歸俄境，則南北不通，南疆孤立。清廷聞報，將崇厚定為斬監侯，令駐英、法公使曾紀澤為駐俄公使與俄交涉。
曾紀澤，字劫剛、曾國藩長子，從小受到嚴格的家教，長期學習英語，學有專長，有強烈的愛國心，他曾對慈禧太後說：“辦洋務難，在外國人不講理，中國人不明事勢。中國臣民常恨洋人不說了，但須徐圖自強，乃能為濟，斷詐毀一教堂、殺一洋人便算報仇雪恥。現在中國人多不明此理……”曾紀澤任駐俄公使後不辱使命，對俄國的威逼利誘、戰爭恫嚇，毫不為其所動。他利用俄將重新在東歐開戰的有利形勢，折衝樽俎，與俄重新簽訂條約，把特克斯河流域全部收回。這是中國外交史上第一次取得的重大勝利。曾紀澤虎口奪食，連俄國人都承認這是從來沒有過的事。曾紀澤堪稱中國近代史上的一位偉大的外交家。
為收回伊犁，左宗棠密切配合，以武力作為外交後盾。長期的戎馬征戰，左宗棠已是疾病纏身，他自己說：“經常腹瀉，腰部酸痛麻木，筋絡不舒，心血耗散。”然而，為收回伊犁，左宗棠不顧自己69歲的高齡，懷著為國捐軀的英雄氣概，抬著棺材，與大軍同征，一時使將士感奮，軍心悲壯。他作了周密的軍事部署，兵分三路：東路由張順率領，防衛精河一帶，防止俄軍進犯北疆，暫取守勢；中路由張曜率領，從阿克蘇沿特克斯河過北嶺，直搗伊犁南麵，取進攻態勢；西路由劉錦棠率軍從烏什經烏魯特遊牧地進軍伊犁西南麵，以切斷俄軍從浩罕援伊犁之道。另外還在喀什噶爾、阿克蘇、哈密分屯重兵作後援，在靠近俄界的塔城增派兵力駐守。中國軍隊的嚴陣以待，成為收回伊犁的可靠保證。
左宗棠不僅是一位叱吒疆場的軍事家，對政治、經濟、文化也有重大建樹。收回新疆以後僅靠軍事力量是遠遠不夠的，馬上打天下，但不能馬上治天下，必須逆取而順守之。他對新疆的建設主要有以下幾個方麵的貢獻：第一，修浚河渠。新疆多沙漠，水源奇缺。左宗棠令軍隊在休戰期間修渠，雇用民工疏浚，在吐魯番開鑿坎井達185處之多；第二，廣興屯墾。在河渠兩旁廣辟耕地，軍民墾地達6．7萬畝，這既可部分滿足軍需，又利於人民的安居樂業；第三，改良桑蠶，清丈土地。新疆桑樹雖多，但過去不養蠶抽絲，而是取桑葚代糧。左宗棠派出專家教民喂蠶、繅絲，對改善民生效益極大。地畝的清丈目的在於均衡地賦，使農民的稅額趨向公平。貨幣的統一也為新疆商業和經濟的發展起了促進作用；第四，治國之道在於文武兼濟，以德治民。新疆文化較落後，漢語、維語隔閡難通。為使政令通行、民心團結，他多建學塾，力求讓新疆每一個兒童都能讀書識字，通曉這兩種語言。左公此舉真是功在千秋。
鑒於新疆重要的戰略地位，左宗棠上奏清廷在新疆設行省，以收長治久安之效。清廷為此多次詳查新疆的地理、政情，作了建省的準備。左宗棠在新疆卓有成效的建設，為建立行省創造了物質基礎。公元1884年11月，清政府宣布在新疆設行省，以劉錦棠為新疆第一任巡撫。行省的設立，對於開發新疆、鞏固西北邊防意義深遠。
這以後，左宗棠先後管理過兵部事務，治過水患，任過兩江總督和軍機大臣等要職，中法戰爭爆發後，他以74歲的高齡任欽差大臣查督中法戰情，為部署抗法軍事而親臨海防前線。“春蠶到死絲方盡，蠟炬成灰淚始幹”。1885年秋，左宗棠在福州軍次與世長辭。
在中國近代史上，左宗棠是一位頗有名氣的儒將。他出身寒微，從小喜讀致用之書。父母早亡，其一生道路坎坷不平：為了糊口，曾教書、經商、從事農耕，40歲之前，功不成，名不就。40歲以後，他依靠師長、朋友的推薦，憑借他精通韜略，足智多謀，開始為清朝建功立業，直到封疆大吏。他一生光輝的頂點，就是收複新疆，堅決抵禦外來的侵略，特別是他抱定馬革裹屍還的英雄氣概，永遠都值得後人敬仰。不僅如此，他在加強民族團結，維護新疆人民的利益方麵所做的貢獻，也是令人難忘的。
應該指出的是，左宗棠鎮壓過太平軍和撚軍等農民起義武裝。這在許多人看來是其曆史的汙點，而在清朝封建統治者眼中，則功莫大焉。