然而左宗棠卻不同意這種觀點。最後，清朝朝廷通過決策，讓左宗棠繼續出塞，並授左宗棠為欽差大臣，統督軍事。
1876年3月，左宗棠舉兵駐紮肅州。
5月，湘軍統領劉錦棠向北翻過天山，會合清伊犁將軍金順部隊先攻打烏魯木齊，烏城攻克後，白彥虎逃走到托克遜。
9月，清軍攻克瑪納斯南城，北路平息，於是謀劃南路。
1877年3月，劉錦棠攻克達阪城，把白彥虎所擒獲的回民全部釋放，讓他們回家。第二天，清軍即收複托克遜城。
劉錦棠的兩個部下徐占彪和孫金彪兩支部隊也接連攻破各個城隘，會合另一清軍將領羅長祜等部隊收複了吐魯番，收降回民達1萬餘人。阿古柏最後走投無路服毒自殺，他的兒子伯克胡裏殺害了自己的弟弟，逃往喀什噶爾。
白彥虎逃到開都河，左宗棠想一鼓作氣擒獲他，奏章還沒上，恰遇內蒙古庫倫大臣上書聲言本部邊境現在正議定疆界。其時朝中大臣也認為西域征戰費用巨大，烏魯木齊、吐魯番既然已經收複，可以休兵了。這令左宗棠很不理解。此時，俄國正與土耳其開戰，金順請求襲擊伊犁。左宗棠說得不到朝廷同意，不可輕易出兵。
同年8月，金順與劉錦棠在曲會會師。由大道向開都河進發，正麵部隊清軍另一將領餘虎恩等從庫爾勒出奇兵以助。
白彥虎逃到庫國，又到阿克蘇，遭到劉錦棠的攔擊，白彥虎隻好轉而竄逃喀什噶爾。
左宗棠大軍不久收複了南疆東部4座城池，守備軍何步雲獻喀什漢城向清軍投降。伯克胡裏接納白彥虎後，就合力攻打漢城。清軍大部隊人馬趕到，他們又逃往俄國。
南疆西部4城相繼攻下，左宗棠向朝廷報捷，皇上下詔晉升左宗棠為二等侯。至此在新疆的布魯特蒙古十四部爭相歸附清朝。
1878年正月，左宗棠上疏奏敘有關在新疆建行省的事宜，同時請求派員和俄國談判有關歸還伊犁和交換戰俘這兩件事。
朝廷派遣全權大臣崇厚出使俄國。俄國用通商、劃分國界和索要賠款相要挾。崇厚輕率地簽訂了條約，這不禁引起了朝廷有識之士的紛紛反對，議論好久都沒有決定下來。
左宗棠上書說：“這種條約是萬萬不可以簽的……”
光緒皇帝認為左宗棠的話大長了朝廷誌氣，命令把崇厚逮捕治罪，朝廷命原湘軍統帥曾國藩之子曾紀澤出使俄國，更改前麵的和約。
這時左宗棠請求親自出兵駐防哈密，策劃收複伊犁。他命令金順即率軍出發，作為東路；部下張矅率部沿特克斯河進兵作為中路；劉錦棠經布魯特遊牧地區作為西路。又分別派遣將領譚上連等各帶兵駐守喀什噶爾、阿克蘇、哈密等地作為後路聲援。
這幾路部隊總共有馬兵、步兵4萬多人，聲勢浩大，士氣高昂，他們決心與俄軍決一死戰，務必收複伊犁。1880年4月，左宗棠堅決表示自己收複伊犁的決心，命人抬著棺材從肅州出發，5月抵達哈密。
俄國人聽說清軍大兵出動，就增兵守衛伊犁、納林河，另外派兵艦在海上巡弋，以震撼京師。此時天津、奉天等地也同時告警。
7月，朝廷下詔讓左宗棠回京城任顧問，讓劉錦棠代替他。俄國人也害怕清軍的威武，擔心事態發展後會引起決裂而挑起戰端。
1881年正月，中國在賠款上又做出讓步後，清與沙俄終於達成了《中俄歸還伊犁條約》，中國收複了伊犁的絕大部分地區。
新疆平定後，朝廷升調左宗棠為軍機大臣。入朝覲見後，皇上賞賜左宗棠可以在紫禁城內騎馬，可由內侍兩人攙扶著上金鑾殿。
左宗棠在軍機處，因他長年在外征戰並不熟悉朝中的禮節、掌故，因而屢屢受窘。他性格耿直，難免得罪人，因此就有許多同僚多厭煩埋怨他。
左宗棠本人也不樂意居住在京城之地，於是進京不久，便稱病乞求引退。9月清廷命他出任兩江總督、南洋通商大臣。
1883年9月，法國人攻打越南，左宗棠這時已70歲有餘，而且身體多病，已致仕在家。但當他聽知此消息時馬上請求到雲南指揮軍隊，並下令讓舊部王德榜在永州招募軍隊，號稱“恪靖定邊軍”。
1884年，中法戰爭爆發，雲南、越南官軍潰敗，左宗棠被召入京，再次任職軍機處。
不久法軍大舉向中國內地進犯，光緒皇帝詔令左宗棠到福建視察部隊，左宗棠命官員王鑫之子王詩正暗中率軍渡海到台灣，號稱“恪靖援台軍”。
王詩正到台南，受到法兵阻擊，他與台灣軍民一道最終擊敗法軍。而王德榜會合其他部隊在諒山取得大捷。
中法和議達成，左宗棠稱疾請求告退，但尚未獲準，7月在福州病逝，時年73歲，贈太傅，諡“文襄”。將其靈位入祀於京師昭忠詞、賢良祠，並在湖南以及立有戰功的各省建立專祠祭祀。