浩罕汗國在1876年以前是一個獨立的汗國。1865年，浩罕汗國有一名叫做阿古柏的軍官，利用新疆南部的混亂，帶領浩罕兵進入中國境內，趁機占領喀什噶爾，並漸漸占領南疆各城。
阿古柏既是浩罕汗國的軍官，應該是為浩罕而戰，但他在占據了中國的南疆和浩罕汗國一部分疆土之後，便自立“哲德沙爾國”。他侵略和分裂了中國的疆土。清廷當時由於無暇顧及新疆的戰亂，聽憑阿古柏在新疆擴張。
這時，在新疆北部的伊犁河穀，又出現了阿布特拉的分裂行為。清廷的伊犁將軍，感受到北疆妥明的威脅與本地區分裂的威脅，竟然請求沙俄出兵援助平亂，結果是引狼入室。叛亂平定後，俄軍占領了伊犁地區九座城池，不願歸還清廷，同時宣稱支持阿古柏進軍烏魯木齊。阿古柏戰勝了北疆妥明的割據勢力，占領了北疆大部分地區，令漢民和回民剪發換衣，遵從異國風俗。
朝廷的許多大員，對於遙遠的新疆缺乏知識，說起喀什一帶的部落混戰，竟如同聽《西遊記》裏的故事。
朝廷內部針對新疆問題發生了爭論，一些人認為海防重要，另一些人主張加強塞防。直隸總督李鴻章重視海防，理由是京城距海岸很近，一旦發生戰事，就會動搖京師，而新疆守不住也不會危及京城。他的老師曾國藩，此前曾提出應以全力打敗回民軍隊，把玉門關以外的問題暫時放一放，李鴻章滿口稱讚這是“老成謀國”的見解。於是有人進而建議幹脆承認阿古柏占領八座城池的事實，讓他與俄國訂約，將他封為“外藩”。
左宗棠當時在陝甘總督任上，處於西陲前哨，手中握有重兵，軍機處當然要征詢他的意見。左宗棠堅決反對置新疆於不顧，並向朝廷保證：給他三年時間，他就能收複新疆。
李鴻章見慈禧太後有意采納左宗棠的主張，覺得自己落在了下風，左宗棠還沒進疆，他就散布失敗主義論調，說左宗棠隻會高談闊論，他在西部本來就幹得不怎麼樣，進軍新疆有什麼把握？
左宗棠這個六十四歲的老臣，身在宮廷之外，對朝廷內部的非議充耳不聞，一心要為國家辦事。他寫信告訴兒子，說他年事已高，早想回家頤養，隻因西部事關重大，不忍突然抽身而退。
左宗棠關心的是，如何才能既不把新疆軍務辦成曠日持久的戰爭，又能徹底廓清西域，重建邊關的國防體係？他提出首先消滅北疆的白彥虎和妥明的部隊，然後驅趕阿古柏，清理南疆十八城，再來向俄國人索還伊犁。
後來左宗棠平定新疆，基本上是按照他製定的三部曲進行，進程十分順利，朝廷大喜過望。
1875年，朝廷任命左宗棠為欽差大臣，督辦新疆軍務。左宗棠進軍新疆，麵對的敵人，是暴虐統治和殘酷壓迫新疆各族人民的阿古柏政權。他派出約二百二十個營的兵力西征，先由張曜率領左恪靖軍前鋒部隊進駐哈密，在那裏興辦水利，開墾二萬畝荒田。
第二年，左宗棠派劉錦棠的湘軍為先鋒，進軍天山北部，大軍隨後跟進。劉錦棠的部隊大戰阿古柏手下的白彥虎等部，收複了烏魯木齊一帶。劉錦棠部在9月份占領了瑪納斯，不再向西推進，顯然是為了避免同俄國人直接衝突。1877春天，劉錦棠開始肅靖南疆。
阿古柏在托克遜修築了三道城堡，北守達阪，阻擋烏魯木齊的劉錦棠；南防吐魯番，阻擋哈密的張曜。白彥虎和於小虎盤踞在南山小東溝，派士兵四出割禾，準備幹糧，企圖繞襲清軍背後。劉錦棠領兵趕到小東溝，白彥虎卻在前一天逃到了金口峽。第二天，劉錦棠部急行軍九十裏，追到金口峽，得知白彥虎和於小虎已經逃入托克遜，便不窮追，撤回烏魯木齊。
白彥虎投奔阿古柏，寄人籬下的滋味並不好受。阿古柏欺負他勢力日衰，對他頤指氣使，勒令他的部下違背信仰，剪發易服，信奉阿古柏的教義，隻許他的手下居住在三道城堡旁邊。
清軍將領金順率領部隊進攻瑪納斯南城，久攻不下，請湘軍援助。劉錦棠派出十一個營協助他，又從包頭調來部隊增援。各路清軍攻克了瑪納斯南城，掘開偽清真王妥明的墳墓，俘虜了偽元帥海玉、馬受和馬有才等人。
第二年冰雪融化的時候，劉錦棠決定進攻吐魯番。阿古柏派白彥虎防守這座城市。吐魯番原有滿、漢兩城，阿古柏次子海古投使用一萬名勞工在這裏修建了雄偉氣派的偽王府。
劉錦棠率領湘軍抵達柴窩，這裏距白彥虎駐紮部隊的重鎮達阪城隻有二十裏。湘軍將士行動隱秘，趁夜急行軍，直撲達阪城。護城河的泥淖很深，淹到戰馬下腹，湘軍騎兵策馬衝過去，在達阪城左邊的山岡排列陣勢，步兵則在城後的山阿布陣。
包圍圈形成之後，天色已明，霧氣散開，城內守軍望見山岡上布滿了湘軍的軍旗，驚恐萬分。他們企圖奪回山岡，用西洋槍炮轟擊湘軍，整個下午炮聲不絕。湘軍小有傷亡，仍然堅守陣地。劉錦棠騎著戰馬，繞著城牆巡視，督促部隊挖掘壕溝，坐騎被守軍擊中。劉錦棠換一匹馬，重新現身第一線，部隊士氣大振。湘軍在城東築起炮台，架起大炮，朝城內發炮。海古拉派部隊救援達阪城，被阻截在天山各個隘口。城內守軍見等不到援兵，決定自行突圍。
劉錦棠吩咐部隊嚴密封鎖路口。湘軍用三架開花炮連環轟擊，把城牆轟塌多處。炮火擊中守軍火藥房，磚瓦齊飛。恰好大風驟起，引燃開花炮彈，把城中守軍炸得血肉橫飛。守軍企圖打開城門突圍，遭到湘軍截擊，無法脫身。湘軍一鼓作氣，攻克了達阪城。
緊接著，劉錦棠率部進駐白楊河，接到軍報：孫金彪和徐占彪已攻克奇克騰木。這兩路軍馬一路過關斬將，攻破阿古柏的所有城壘，在哈拉和卓會合，距劉錦棠部隻有兩天路程。
他們率部到達吐魯番，發現白彥虎已在前一天離城逃跑。羅長佑也在這時率部趕到，一起攻城。城內守軍抵擋不住，隻得投降。
同一天，劉錦棠部急馳一百裏，抵達托克遜，海古拉已經逃走。守軍在城外抵抗湘軍，被湘軍擊潰。他們縱火焚燒糧藥，然後棄城逃命。劉錦棠派部隊進城滅火，兩萬多名守軍跪地投降。劉錦棠命令他們繳械，聽候安置。
湘軍攻下托克遜的三座城池以後，南八城門戶洞開。阿古柏驚慌失措，白彥虎卻還要頑抗，搶掠牲口，焚燒村堡，脅迫回民一起逃亡，回民們怨聲載道。由於劉錦棠釋放了所有投降的回民，既往不咎，回民們不再擔心朝廷責罰，互相傳告，南八城老百姓盼望著劉錦棠的部隊來解救他們。
英國人見中國軍隊即將收複南疆，出麵“調停”，要清廷允許阿古柏殘部在喀什獨立成國。左宗棠駁斥道：英人要想為他們立國，可以割讓英國的土地給他們，為什麼要拿我們的沃土做人情呢！
不久，天怒人怨的阿古柏飲下毒酒自盡，海古拉將父親的屍體泡在藥水裏，浸了三天才拿出來，裹上香牛皮，抬著朝俄羅斯境內逃跑。當他到達庫車時，他哥哥伯克胡裏派人攔截，將他殺死。
伯克胡裏是阿古柏的長子，不討父親的歡心。他殺了海古拉以後，企圖占據新疆南境而稱王。白彥虎和伯克胡裏搞起了攻守同盟。
白彥虎所過之處，燒光寨堡，脅迫新疆的回民加入逃亡行列。劉錦棠率湘軍急行軍四百裏，趕到洋薩爾，命令後隊救火，前鋒追擊。前鋒在第二天追上白彥虎的部隊，劉錦棠命令軍士喊話：“隻殺手執武器的，其餘的一概不追究！”白彥虎丟下被脅從的回民狂奔。
湘軍收複了庫車。他們從庫爾勒出發，六天奔馳九百裏，救出大約十萬難民。左宗棠設立善後局，籌備種籽，動員難民從事耕牧、冶煉、造船和通商，越來越多的回民安居下來。
劉錦棠率部在冰上夜行軍，趕到銅廠一帶，與白彥虎的兩萬軍隊相遇。湘軍發起衝鋒，殺得白彥虎的軍隊屍體堆積，堵塞了河道。劉錦棠把難民送回拜城，命令部隊渡河，攻擊殘餘的逃兵。
湘軍趕到阿克蘇，準備攻城。探子來報：前一天夜裏，有位回民首領準備向湘軍獻城，胖色提將他捆綁起來。胖色提緊閉城門，城中有十萬軍隊嚴陣以待，要和湘軍拚死一戰。劉錦棠派回民進城去勸說胖色提，向他保證，隻要他服從朝廷，與阿古柏決裂，朝廷將不予追究。胖色提同意投降，湘軍開進了這座城市。
自從新疆戰役開始以來，白彥虎一直疲於奔命。湘軍在胡馬納克河再一次打敗他的部隊。他見湘軍緊追不舍，非常恐懼，便唆使安夷逃往葉爾羌，自己逃到烏什，希望迫使湘軍分兵，使自己能夠苟延殘喘。劉錦棠不追安夷，隻對白彥虎窮追猛打，打得他惶惶不可終日。
湘軍渡過胡馬納克河，在戈壁上行軍八十裏，俘虜了白彥虎的手下馬有才，接著又攻克烏什和阿他伯什，把白彥虎追到戈壁灘邊緣，然後沿戈壁返回。
湘軍將士一個月中冒著嚴寒遠征，馳驅三千多裏，收複了南疆東四城。劉錦棠戰功卓著，朝廷對他補了西寧道的缺，將他晉升為三品京卿，對他手下的將領，也各有獎勵。
伯克胡裏盤踞在喀什噶爾，此時仍然保留著西三城，而和闐的伯克呢牙斯向湘軍投降，包圍了葉爾羌，為湘軍聲援。伯克胡裏隻剩下喀什噶爾一座城了。他率領五千騎兵去葉爾羌打敗了伯克呢牙斯，伯克呢牙斯向湘軍靠攏。
伯克胡裏奪下和闐，據為己有。喀什噶爾的軍隊裏有幾百名滿漢軍士，趁伯克胡裏不在城裏，相約起事，把守住漢城，派人報告湘軍。劉錦棠兵分三路進攻喀什噶爾，自己守住葉爾羌與和闐的要衝。伯克胡裏與白彥虎合並部隊，打算奪回喀什噶爾的漢城。湘軍從斜刺裏殺出來，伯克胡裏的騎兵措手不及，調轉頭奔回回城，大聲喊：“湘軍大隊人馬到了，如何是好？”
劉錦棠放出風來：隻打白彥虎的部隊，其餘不問。回民紛紛潰散，伯克胡裏殺了幾個人也無法禁止。白彥虎和伯克胡裏隻好帶著各自的人馬逃跑，留下部分士兵死守喀什噶爾，拖住湘軍。
當晚三鼓時分，餘虎恩和黃萬鵬的兩支部隊抵達城下，城內守軍放火，騎兵出來迎戰，但還沒交鋒就潰不成軍。湘軍抓獲守軍元帥王元林。湘軍登上城頭，向回城的回民大聲喊話，勸他們投降。回民們開西門逃走。湘軍在天亮前占領了喀什噶爾。
白彥虎、伯克胡裏和阿裏達什逃入了俄羅斯境內。劉錦棠趁勢攻克了葉爾羌、英吉沙爾與和闐，於是南疆西四城全部回到朝廷手中。
左宗棠在收複新疆的同時，十分注重生產建設。大軍出關之前，張曜的先遣部隊在哈密屯田，開墾三萬五千畝荒地，將哈密開發成了新疆的糧倉。張曜讓軍士們在地下鋪油毛氈，用三合土粉刷人工渠道，建起坎兒井，為幹旱地區從事農業生產創造了經驗。
另一支湘軍由魏江燾率領，專門修路，築成了安西以西的官道，從哈密星星峽到馬裏坤之間的天山大道，以及從托克遜到喀喇沙爾之間蘇巴什山口的一百七十二裏盤山路。湘軍同時保護環境。從嘉峪關到烏魯木齊，沿途每隔十裏挖一口井，王德榜的部隊負責打井與栽樹。
左宗棠把軍屯和軍隊從事生產建設作為軍務，是征西行動中的一項大改革，為後人提供了寶貴的經驗。
俄國人起先沒有料到清廷能夠出兵新疆，而且很快恢複了在這個地區的統治，所以他們在占領伊犁時表示：隻要中國從阿古柏手中收回了被占的領土，他們就把伊犁還給中國。湘軍打敗了阿古柏，使俄國人陷入被動。左宗棠很快安定了新疆，做好了收複伊犁的準備。清廷叫他暫且按兵不動，因為政府代表崇厚正在寒冷的彼得堡與俄國政府談判伊犁問題，清廷是否動武，要等談判有了結果再行定奪。
崇厚去俄國時，西太後下旨讓他“全權代表，便宜行事”。他卻無視邊疆的實情，不察封疆大吏的成算，胸無定見，聽憑俄國人調排。談了一年多，他在黑海之濱的裏瓦基亞簽署了一份辱國的條約，中國收回了伊犁城的代價是，將城池外圍的險要地區讓給了別人。 崇厚喪權辱國，朝野上下一片嘩然，清廷迫於輿論，拒絕在條約上用璽，並將崇厚革職拿問，交刑部議罪。刑部將崇厚判了死罪，打入大牢。經過李鴻章四處周旋，朝廷改罰崇厚贖罪銀三十萬兩充作軍費，保住了他的性命。 清廷改派曾紀澤去俄國談判。曾紀澤從英倫三島前往俄國。左宗棠也做好了進攻伊犁的準備。 左宗棠率領大軍從肅州出發。“左恪靖軍”大旗在隊伍前麵迎風招展，各家將字旗號和營旗隨後飄揚。清軍展示了最新式的武器，如同一場盛大的閱兵式。四百名精壯親兵在前麵開道，四百名護衛簇擁在後。左宗棠在八百鐵騎護衛之中，騎乘一匹白馬，神情凜然。他的身後，八個彪形大漢抬著一口南方特有的黑色棺材，是為他自己準備的，威風而悲壯。數萬老百姓圍觀，指點著隊伍中的左大帥說：“三國演義裏關公抬著棺材戰龐德，大概就是這個模樣。”
左宗棠不顧高齡，執意要住軍營，與士卒同甘共苦。大兒子左孝威來塞北省親，隨父親入住軍帳，受寒染疾，回家後一病不起。
大軍抵達哈密時，俄國人聽說清軍出關，又聽說左宗棠抬著棺材來戰，想到湘軍能征善戰，擔心這位湖南老人蠻幹，便增兵防守伊犁納林河，派兵船在海上遊弋，威脅北京。天津、奉天和山東各省紛紛向朝廷報警，中俄兩國劍拔弩張。
不久，朝廷召左宗棠入京，充當皇帝顧問。左宗棠回京後，命令湘軍將領王詩正率旌善騎兵營和親軍步兵營前往張家口，以備調遣。
左宗棠離開了新疆，但他抬著棺材出關的做法，為曾紀澤的談判增加了籌碼。其實，俄國當時也有內憂外患，連一個土耳其都對付不了，哪裏還有力量越過西伯利亞荒漠來與中國較量。當時俄國在伊犁的守軍不過幾千人。左宗棠並非一定要和俄國開仗，意在威懾，爭取在談判桌上解決問題。他知道，自古以來，弱國無外交，外交必須以武力為後盾。兩個湖南佬，一老一少，一個唱紅臉，一個唱黑臉，終於取得了預想的成果。
曾紀澤到達彼得堡之前，與左宗棠有過書信往來，配合默契。左宗棠為曾紀澤此行捏著一把汗，自己要做的事，就是為了“使臣或尚有所憑借，多說幾句硬朗話”。中俄談判，中國處於弱勢，但並非沒有勝算。他告誡曾紀澤，這如同下圍棋，劣勢中也含有勝著，如果執棋者缺乏自信，舉棋不定，就會落敗。
曾紀澤的和談成功了，中國爭回了一部分主權，比較順利地收回了伊犁。左宗棠完成使命，被任命為軍機大臣。朝廷批準了曾紀澤與俄國人簽定的條約，命令金順接收伊犁，按圖劃界。
不辱國不辱人而言和，是左宗棠的辦事宗旨，也是典型的湖南人精神。湖南人最講麵子，在國際事務中更不願丟臉。中國當時長期閉關鎖國，又經過多年戰亂，國勢積弱，無力打仗。細看中國近代史，李鴻章在國際事務中“一味忍讓，徐圖自強”，也並非全無道理。皇宇周天，億兆黎民，平定一個省的內亂，還要貸洋款來打仗，實在是曆朝從所未見。宋朝麵對大金大遼對邊境的挑釁時，國勢也很衰弱，卻不曾借別國的錢來打仗。左宗棠既要平定新疆，又要收複伊犁，運籌之難可想而知。左宗棠自稱為“今日諸葛亮”，每想出一個計策，都會白掉幾根須發。抬棺出關這一招，是他嘔心瀝血的結果。
軍機大臣翁同龢後來在追悼左宗棠時對他這樣褒揚：“絕口不談和議事，千秋唯有左文襄。”前一句是說左宗棠辦事全憑武力，其實未必確切。左宗棠並不反對朝廷“外須和戎”的決策，他是最早發起洋務運動的幾位中樞大臣之一，也是最早實踐魏源“師夷長技以製夷”主張的大員。他開辦馬尾船廠和福建船政局，雇用了法國人；他曾向英國駐華銀行貸款；建設大西北，他和德國人交往，采用德國機器和技術開創“玉門油礦”，還奏請朝廷賞給德國人福克四品頂戴。實際上他非常期望和平，但他的風格不同於李鴻章，取得的效果自然兩樣。
左宗棠辦事，以實事求是為原則。這裏舉一件事例來說明。
左宗棠被任命為籌辦新疆軍務的欽差大臣時，提出一個人選來替代他當陝甘總督。這個人是曾經錯辦楊乃武與小白菜案的著名昏官楊昌濬。他怎麼會讓一名昏官來接替如此重要的職務呢？
楊乃武與小白菜案是反映清末官場黑暗的四大案例之一，有人把此案編成了戲曲進行諷諭，使辦案的昏官家喻戶曉，臭名遠揚。
浙江巡撫楊昌濬在審理這樁冤案時，既不深入調查，且官官相護，無原則地袒護州縣，還愚不可及地向刑部尚書行賄，企圖阻撓冤案平反。楊昌濬所作所為不可謂不惡劣，朝廷將他革職。
左宗棠當然不會對這個昏官的劣跡視而不見，但他認為啟用官員要實事求是。他知道楊昌濬能帶兵打仗，提供後勤保障也是一把好手。
楊昌濬是湘軍的老人，既有書生的浪漫，又有軍人的勇敢，不怕困難，不怕犧牲。他曾跟隨羅澤南在長沙練兵，左宗棠在長沙招募五千“楚軍”時，邀請楊昌濬幫辦軍務。楚軍進入江西和安徽攻打太平軍，楊昌濬負責後勤保障有功，升任知縣。後來跟隨左宗棠到浙江，率部救援衢州有功，便在衢州留任知府。隨後被授為浙江糧儲道，負責籌備左宗棠在閩浙作戰所需的糧餉。他殫精竭慮，辦事勤勉，深得左宗棠信任。後來屢次升遷，做到了浙江巡撫。
在浙江巡撫任上，楊昌濬表現出卓越的才能。但他又因貪汙而被革職，回到湖南。他深刻反思了自己在“小白菜案”中的罪過，多次請求出來當差，將功折罪。他多次給左宗棠寫信，表示悔過，並申請到陝甘為左宗棠效勞。左宗棠不拘一格，奏請起用楊昌濬。朝廷準奏，把楊昌濬調任甘肅布政使。他一到西北，便表現出卓越的組織才能。從蘭州到吐魯番，在幾千裏的風沙道上轉運軍糧，四處籌集糧食和軍馬，協辦軍墾民屯，竭心盡力，把西征軍所需的糧草準備得十分充足。
楊昌濬受到朝廷褒獎，被賞了頭品頂戴。左宗棠奉旨回京述職，臨行前保薦他代理陝甘總督，共同籌劃收複伊犁。伊犁回歸以後，楊昌濬和劉錦棠共同辦理善後事宜。
楊昌濬在甘肅和新疆，親身經曆了左宗棠的西北軍政事務，沿著河西走廊走到烏魯木齊，沿途所見“一片升平景象”。他喜歡唐詩宋詞，有所感慨，便寫詩記載。他記起了唐人的詩句：“羌笛何須怨楊柳，春風不度玉門關。”此時玉門關外，一條長長的綠帶穿越萬裏黃河，直達新疆吐魯番，氣勢雄渾，正是人類同惡劣的大自然戰鬥的結果。更令這個湖南人感慨的是，新疆南北到處都是家鄉人的口音，到處是湘軍戰士的足跡。楊昌濬感慨萬千，坐在驛館裏寫出一首五言律詩。他萬萬沒有想到，這首詩很快會傳遍神州大地，自己一不小心就成了著名詩人，一洗數年前在浙江官場上的恥辱。