清廷在任命左宗棠負責西北重任以前，也曾作過一些部署。那時太平軍戰事還沒有全部結束，不能將善戰的湘軍西調，於是將四川布政使劉蓉（霞仙）調任陝西巡撫。劉是左宗棠的同鄉、好友，以前二人同在駱秉章幕府共事。劉是位秀才，足智多謀，他和左宗棠同時被譽為“諸葛亮”。不久，江西境內太平軍戰事已近尾聲，清廷又將楊嶽斌（厚）調任陝甘總督。楊嶽斌是與彭玉麟齊名的湘軍水師統領，原名載福，因避同治帝（載淳）諱而改名。後來曾隨左宗棠在東南作戰。這兩名湘軍將領來西北後，局勢不見好轉。劉蓉在霸橋與西撚一戰，幾乎全軍覆沒，巡撫職也丟了。楊嶽斌見形勢不妙，也請病假告歸。左宗棠到達漢口時聽到這個消息，認為他二人雖有失誤，還是可用之才，趕緊上奏請留下他們，但已來不及了。這也說明，湘軍個別將領離開了統帥和大部隊，獨立一方，就難以成功，誠如胡林翼生前所說：“氣類孤而功不成。”
左宗棠接受督辦陝甘軍務的重任，心裏很清楚，這是清廷在危急之際，需要他、利用他解決一時的困難，並非對他有長遠依靠之計。他與王柏心說：“朝廷所以用之者，不過責一時之效已耳。”他常常自己定下一個計劃，並告訴夫人、兒子、朋友們：等這一階段任務完成了，就決心退隱。可是當這一階段完畢，緊接著下一階段更重的任務又來臨，他又不得不說：“我不去怎麼辦呢？國事如此，萬無退避之理。”於是又抱著老病之軀，繼續另一項任務。
就這樣，在那多事之秋，一個任務接著一個任務，始終沒有能卸下重擔。
在漢口，他一麵等待由各地調集的軍隊，同時研究進兵策略。他向清廷提出了用兵程序： “欲靖西陲，必先清腹地，然後客軍無後顧之憂，餉道免中梗之患。”
這是一項正確而重要的軍事策略。新疆是中國西陲，欲收複新疆，必先平定玉門關以內的陝甘腹地。新疆為外國侵占，對內地而言，甘肅成了西陲。欲平定甘肅，首先必須平定潼關以內陝西、河南等腹地的戰亂。這就是說，欲收複新疆，必先平回；欲平回，必先平撚。回軍占領了通往新疆的門戶肅州和河西走廊，又和在烏魯木齊自稱“清真王”的妥得瞞勾結；清軍如不收複肅州，打通河西走廊，怎能出關呢？即使出了關，也不能保證軍需接濟和糧道暢通，還有受兩麵夾擊的危險，那麼，新疆隻有放棄了，這是中國人民包括廣大回民都不能答應的。撚軍在陝西、河南一帶勢力很大，東奔西竄，有時甚至逼近京畿；如果不先平定撚軍，同樣，清軍是無法進入甘肅的，否則也是兩麵受敵。當然，更不用提收複新疆了。 左宗棠提出的用兵次第，簡單明了，本來用不著解釋，稍有軍事常識的人都能認識其正確性。關內的軍事行動是為收複新疆作準備的必要行動。這自然是為大多數愛國者所讚成和擁護的。過去曾有人將關外和關內行動機械地劃分為兩種性質：關外是對外收複失地，是愛國行動，應予肯定；關內則是對內鎮壓“愛國人民”，應予譴責。這種說法自然欠正確。這是因為沒有看到，或是有意地看不到，關內外行動是一個有機整體，是一項“係統工程”，沒有關內行動，就不可能有關外的勝利，這是明白不過的。另外，他們還忽略了一個重要原則，正如許多曆史學家所指出的：“在中國近代史上，階級矛盾和民族矛盾並存，民族矛盾經常占主要和支配地位。評價曆史事件和人物時，必須把是否有利於整個國家民族，和有利於保衛祖國的領土與主權，作為主要的衡量標準。也就是說，要貫徹和發揚愛國主義精神。”（薑鐸）
左宗棠到漢口後，想起了一位好友，鹹豐三年同在湖廣總督署幕府的王柏心。王柏心十分器重和敬佩左宗棠，當左棠棠回湘陰東山隱居時，王柏心曾贈詩：“武庫森然鬱在胸，歸來雲壑暫從容。”一再勸他不要消極隱居，亂世中人才難得，應該出山為國家效力。當左宗棠受官文、樊燮構陷，再度消極時，王柏心寫信勸他：“功高為人所忌，自古有之；聽到誣蔑你的遊詞，就決定拂衣還山，絕口不談世事，以表明自己的高潔，但此乃淺之為丈夫，非所望於達節之士也。” 王柏心的言詞直率而懇切，對左宗棠很有影響。王柏心熟悉中國曆史，更熟悉曆代興亡成敗的原委。他曾入雲貴總督林則徐和陝甘學政羅文俊幕府，遍遊陝甘各地，對關隴山川形勢和少數民族風俗民情都有所了解。他是一位有學問、有謀略、也有理想的人，左宗棠素來敬重他。他家在監利，離漢口不遠。左宗棠約請他來漢口會見，他們分別已十餘年，二人本來都蟄居故裏，現在左宗棠已是總督兼欽差大臣，王柏心仍然鄉居，老友重逢，十分快慰。他們在漢口聚會的幾天中，不單是敘舊，更主要的是討論國家大事和西北用兵策略、作戰部署等。他們二人有許多相同的看法，談得十分投機。左宗棠後來平定新疆時采取的一項成功的戰略——“緩進急戰”，即用充分的時間作好各項準備，然後以迅雷不及掩耳的行動速戰速決，這項戰略就是王柏心和他共同商定的。他們還一致認為，在西北作戰，應采取屯田政策，因為西北糧食缺乏，軍糧若全靠內地接濟，迢迢數千裏，運輸困難，萬一斷糧，軍隊就不能作戰了。屯田是漢代大將趙充國創立的辦法，即兵士中一部分就地農墾，自己養活自己，這也是長遠之計。對付撚軍，他們都認為要用騎兵和炮車作戰。因為撚軍往來奔馳，避實就虛。專用步兵對付則追趕不上，應該用騎兵對付步兵，用炮車對付騎兵。他們又定“三路進兵之策”。王柏心和他商定的策略，不僅對陝甘軍事有用，在收複新疆中也起了重要作用。
在西征軍的人事上，左宗棠也作了部署：除奏調劉典幫辦陝甘軍務外，又調廣東提督高連升（果臣）率部來西北參戰。另外，原屬曾國藩統領的將領劉鬆山（壽卿）也奉調入陝，帶領老湘軍9000人，以後成為左宗棠手下的一員大將。
清朝廷命李鴻章為剿撚主帥，並督剿東撚，左宗棠負責征剿西撚。另外還有幾支地方部隊參加。一支是張曜的“嵩武軍”，另一支是宋慶的“毅軍”，這兩支部隊都是豫軍，英勇善戰。此外，山西按察使陳蔔的軍隊也由左宗棠節製。
在漢口休整了一個月，各路軍隊到齊了。同治六年二月左宗棠率部隊離漢向西北進發。那時西撚軍一部分已入陝，東撚一部分進入湖北，在開門、鍾祥等地活動。左宗棠雖奉命剿西撚，但這時首先得對付東撚，部隊到達隨縣附近，與撚軍遭遇。撚軍使用的是一些原始武器，在裝備上遠不及清軍。他們突然遇到炮車，驚惶失措，紛紛潰逃，被趕回河南，但是撚軍人多勢眾，轉移迅速，所到之處，造成很大威脅，不是輕易可以消滅的。
甘肅回軍得知西撚入陝，也大舉進犯陝西。清廷一方麵害怕甘回入陝與西撚合流，又怕西撚再回河南，與東撚複合，就下令給左宗棠，命他務必將西撚消滅在陝西境內。左宗棠於是按既定計劃，分兵三路入陝：由劉典率5000人由樊城入荊紫關；由高連升率4000人溯漢水入蜀河口；左宗棠自領7000人進潼關。當部隊經過函穀，紮好營寨時，突然大雷雨，山水猛發，輜重被洪水衝走了一大半。大軍進入潼關後，士兵又感染瘟疫，死了200多人，病的更多。真是出師不利。
入陝的軍隊一方麵要對付撚軍，另一方麵還要對付回軍，雖然打了好幾場勝仗，但撚軍采取的是“打了就跑”的戰術，它的主力未被消滅。那年冬天劉鬆山的湘軍和郭寶昌的皖軍（楚勝軍）正在陝晉邊界沿黃河西岸堵塞撚軍，防止他們東渡，在宜川、交口之間突然遇到回軍進犯，因此停下來與回軍作戰。就在這一天內，撚軍大股趁此奔到黃河西岸。對岸的山西部隊原來以為撚軍缺乏渡河器材，暫時過不了黃河，因此不作準備，大部隊都開往晉北去了。十一月廿二日傍晚，刮起了一陣南風，黃河水凍成堅冰，撚軍便從宜川西北的龍王迪，踏著冰橋進入山西。出其不意，一連攻陷了吉州、鄉寧幾個縣城，山西全省大為震動，連京師也受到威脅了。
清朝廷很恐慌，下詔嚴責左宗棠和李鴻章，以及直隸總督官文和河南巡撫李鶴年等，並都給以撤職留任處分。這是一次大挫敗。
左宗棠看到撚軍進入晉冀，局勢將更難收拾，命劉典和高連升留在陝西，自己親率5000兵回師晉冀。劉鬆山和郭寶昌的部隊也趕緊由陝渡黃河追來。這時局勢起了一個有利於清軍的變化，東撚軍已為李鴻章平定，西撚軍於是孤立了。朝廷立即命淮軍、張曜嵩武軍、宋慶毅軍等會同湘軍合剿西撚。西撚軍東奔西竄，同治七年初，到定州，並有少數部隊進犯保定；不久又到任丘、獻縣、饒陽，三月過吳橋，直犯天津，離京師已不過二三百裏。撚軍雖然聲勢浩大，造成威脅，但是究竟因為組織渙散，缺乏新式武器裝備，又無明確的政略戰略，強弩之末，終不免於失敗。在清軍幾路追擊之下，撚軍被殲滅的、投降的、走散的越來越多。六月，張總愚帶領殘部由山東濟陽向西，往臨邑進發，官軍從四麵包圍，走到徒駭河邊，下起大雨，河水猛漲，淮軍劉銘傳部將撚軍驅趕到河邊，撚軍無路可退，又無法渡河，張總愚遂蹈水而死。餘部投降的投降，潰散的潰散，撚軍就此全部被消滅了。 清朝廷論功行賞，將各人的處分撤銷，並給左宗棠加了一個“太子太保”的頭銜，命劉鬆山等率軍回陝剿回，著左宗棠來京陛見。