同治八年（1869年）初，左宗棠奉清朝廷命，率大軍進入陝甘平息回軍“造反”。同年底進駐甘肅平涼。這次他所麵對的是複雜的民族糾紛，是十分艱巨的任務。他認為處理民族關係，對付回軍，與對付撚軍和太平軍有所不同，應當更為慎重。
他在進入陝甘之前，對回民情況和回漢糾紛作了一番調查研究。中國是一個多民族國家，在漫長的年月中，各族人民之間的團結友愛、互助合作，是曆史的主流，各民族間自然融合也是曆史的主流。據史家研究結果，國內各民族沒有哪一個是純血統的（呂振羽），漢民族就不純，是一個大融合體。回族雖有自己的語言文字，但也使用漢語，隻是在宗教信仰和風俗習慣上存在差別。回、漢、滿三族在曆史的長河中，友好也是主流。在清代，回民和其他民族一樣，也參加科舉考試，也作官吏；回漢二族在短暫時間和局部地區內也有過紛爭和矛盾，但還不曾擴大。同治元年至十二年間，陝甘一帶的回漢矛盾激化，回民和漢民互相仇殺，滿人官員站在漢族一邊，挑撥漢回關係，以至回民起義。那時，回族和漢、滿族關係處於最低潮、最惡劣的時期。
在西北，回族和漢族經常住在一處：一個城市或一個村落中。由於民族、宗教和風俗習慣等的不同，發生一些矛盾也是很自然的、不可免的。即使同一民族，鄰裏之間、各姓之間、有錢人和窮人之間，都有各種矛盾和紛爭。當然，不同民族間的矛循可能多一點、深一點，如果處理得當，也不至於鬧成大事。可是清政府卻采取了反動的民族政策，所謂“以漢製回”、護漢仰回”；滿族統治者想利用漢民來壓服回民，煽動民族仇恨，加上漢回兩族封建主的煽動挑撥，漢回仇殺愈演愈烈。 根據曆史有記載，有案可查的漢回仇殺事件就有多起，如：陝西團練大臣張芾統率的漢族地主武裝，殘殺回民，十分殘酷。同治二年六月，在狄道州發生了屠殺事件，地主武裝燒毀城內禮拜寺和回民房屋500餘戶，並屠殺回民男女老幼。在左宗棠進入陝甘之前，滿族將領多隆阿、穆圖善等指揮下的清軍，也曾大量屠殺回民。以上是漢族上層分子屠殺回民的事例。
回族上層分子屠殺漢民的例子也可舉出一些，如同治元年六月回軍攻破陝西長安縣六村堡，同治二年八月回軍攻破平涼，同年十二月回軍攻占寧夏府城，漢民亦遭到屠殺。 左宗棠入甘前，了解到漢回仇殺的殘酷情形，認為甘肅官、軍要負很大的責任，慨歎說：“甘肅之軍，不能保衛人民，反而擾民；甘肅之官，不能治理人民，反而激起人民造反。”他把回漢仇殺歸因於當地滿漢官員和軍隊的腐敗和殘暴，即“官逼民反”，對被壓迫的回族和漢族人民寄以同情。他還批評那裏的團練說：“既像團練又不是團練，像兵勇又不是兵勇，像土匪又不是土匪。”當地漢人多將漢回仇殺的責任完全推在回民身上，他多次提出自己不同的看法說：“從前漢回仇殺，責任不盡在回民。”“陝回之禍，由於漢回構怨已久，變亂實在是由漢人挑起的。”
陝西一些漢人士紳卻不是采取這種客觀公正的態度，他們不顧漢人屠殺回人的事實，卻隻看到漢人被回人屠殺，因此對回民恨之入骨。他們提出“剿洗”政策，就是要用武力征服。一些地方官吏也偏聽這種意見。左宗棠堅決反對“剿洗”政策，他對那些偏聽“剿洗”政策的官吏們更為不滿，警告說：
“惟秦人議論，往往不可盡據。即如漢、回急哄，致成浩劫，力主剿洗，萬口一聲，生心害政，實由吠影吠聲致然，雖賢知之士，亦所不免。非兼聽並視，折衷至是，不能平其政，祛其弊也。”
他認為陝西一些人高叫“剿洗”，是非常無知、不公道，也有害的。正如一隻狗看到影子就叫起來，許多隻狗連影子也沒有看到，也跟著這隻狗的吠聲叫，鬧成一片，連自命聖明有識之士也跟著鬧。隻有兼聽並視，處理回漢糾紛，才能對國家和人民有益。他的意見是夠尖銳的，也很坦率。同治六年（1867年）五月，他又向朝廷提出處理回漢糾紛的意見和策略，首先說： “此次陝西漢、回仇殺，事起細微，因平時積釁過深，成此浩劫。此時如專言剿，無論誅不勝誅，後患仍無了日。且回民自唐以來，雜處中國，蕃衍孳息，千數百年，久已別成氣類，豈有一旦誅夷不留遺種之理！?”
他批駁了陝人“殺盡回民”的謬論，接著提出“剿撫兼施”的辦法：“仍宜恪遵前奉上諭：不論漢回，隻辨良匪，以期解紛釋怨，共樂升平。”他認為這樣可以促使漢、回同胞解紛釋怨，共同享受和平的生活。
“不論漢回，隻論良莠”，原是林則徐最早提出的政策。20年前他任雲貴總督時，處理當地回民起事的政策是：“但分良莠，不分漢回，良則雖回必保，莠則雖漢必誅。”左宗棠政策的核心就是根據林則徐政策而來，但是著重提出“撫”的重要性。
所謂“剿撫兼施”，“剿”就是武力征討，“撫”是和平方式安撫。左宗棠認為辦理回事必須“以撫為先”，即是以和平方式為對待回民的主要手段和目的。回亂之所以產生，是由於政府歧視回民，如果朝廷宣布政策：漢回一視同仁，那麼大部分回民將不會追隨上層回軍人物。但是麵對在各地割據的回民武裝，如果政府沒有強大的實力也不行，起事的回軍是不會自動放棄武裝，讓出一條通往新疆的大路的，所以又必須有“剿”，左宗棠自己說是：“蓋不得已也。” “剿撫兼施”的政策受到各方麵的阻難。一方麵是陝西士紳和一部分地方官員的“剿”派，他們自己沒有力量對付回軍，聽到清政府派左宗棠率大軍來陝甘征剿，就希望左宗棠來幫他們對付回民。左宗棠對陝士紳這種民族“仇恨”和畸變心理，深為厭惡，堅決反對，他說：“秦中士大夫恨回至深，每言及回事，必雲‘盡殺’乃止，並為一談，牢不可破，誠不知其何謂！”陝西士紳的“剿”派對左宗棠感到失望，他們始終對左宗棠的政策不滿，還常加以阻撓。
另一方麵是滿族高級官員中的“撫”派，如熙齡（總督）、恩麟（布政使、護理總督）、慶瑞（寧夏將軍）、玉通（辦理青海事務大臣），以及後來署陝甘總督的穆善等，他們都是滿州貴族的公子哥兒，既膽小，不懂得用洲兵，加之甘肅是個窮省，無兵可用，無餉可籌。因此他們懷著苟且偷安的心理，又接受回軍首領的賄賂，隻主張“撫”，然而沒有求“撫”的實力，從來沒有“撫”成功，局勢越來越壞。 至於清朝廷，也給左宗棠很大的壓力，清廷命他克期平定陝甘“回亂”，雖然同意了“剿撫兼施”的政策，但是兩宮太後對他提出的“五年為期”還很不以為然，認為時間太長。後來有幾次因軍事停頓，立即下旨嚴責。例如同治九年（1870年）十月，金積堡久攻未下，朝廷就責備左宗棠說：
“竭東南數省脂膏，以供西征軍餉，似此年複一年，費如此巨款，豈能日久支持？該大臣捫心自問，其何以對朝廷？”
朝廷對左宗棠表麵上“信任”，是不得不用他，暗地裏處處懷疑，深怕他按兵不進，擁兵自重。 左宗棠麵對著的是盤踞在各地的強大的回軍武力，背後又有三方麵的壓力，加上惡劣的自然條件，困絀的軍餉、軍糧，西事艱阻如此，他毅然不顧各方麵的反對，在進陝之前發布了一道告示，說明“剿撫兼施”的政策，告示說：
……多殺非仁，輕怒非勇，誅止元惡，钅且必非種。凡厥平民，被賊裹脅，歸誠免死，禁止剽劫。漢回仇殺，事起細微，漢禍既慘，回亦無歸。帝曰漢回，皆吾民也。使者用兵，仁義節製，用剿用撫，何威何惠…… 一些回民讀到告示中“帝曰漢回，皆吾民也”兩句，不禁感動而流淚，多數善良回民與漢民糾紛，原是細微的事，因受滿漢官員壓迫，又受上層回民鼓動，“造反”也是迫不得已。他們如果逃出回軍，到漢民地區，又恐怕漢民殘害，真是走投無路。他們自然希望中央政府能有一個公正、妥善的政策。
左宗棠在給孝威的信中，表明了對回民政策的信心，說：“回民入居中土，自三代以來即有之，傳記中‘疆以戎索’及‘驪戎’、“陸渾之戎”、“徐戎”皆是也。欲舉其種而滅之，無此理，亦無此事。前年四字告示中‘帝曰漢回，皆吾民也’兩句，回民讀之，亦為感泣，可見人心之同。且令中外回民均曉然於官司並無專剿回民之意，亦知覆載甚宏，必不協以謀我。便可百年無事，若專逞兵威，究竟止戈何時？” 他特別讚賞諸葛亮對待少數民族的辦法，說：“武鄉之討孟獲，深納攻心之策，七擒而七縱之，非不知一刀兩斷之為爽快也。”
對於回民也要采取這種政策。如果求撫不是真心，就揭發其狡詐，用武力對付，並告知他用兵實是出於不得已；對於真心求撫，就要接受。最終總是和撫之局。
左宗棠認為要貫徹剿撫政策，雙方以誠相待，十分重要。一方麵必須回軍誠心求撫，另一方麵必須官軍誠心辦撫。官軍需有強大的力量，回軍才肯甘心就撫；官軍還必須有誠意，回軍就撫才能有誠心。他認為“撫”比“剿”難得多，“剿”，隻須使用武力，打了勝仗，大局就定了。“撫”，則善後的事務特別紛繁。但是決不能避難就易，為中華全民族的利益，最終必須貫徹和撫之局。
進軍西北是十分艱巨而重大的任務，別人都不願去、不敢去；左宗棠對此是有充分的認識的。同治八年四月，宗棠部隊已收複了秦隴門戶董誌原。大軍進入甘肅之際，他寫信給孝威說：“西事艱阻萬分，人人望而卻步，我獨一力承擔。”同時給友人夏獻綸（小濤）的信也說：“西事大類養，失今不圖，西陲恐非複朝廷所有，弟不自忖量，引為己任。”如果回軍勢力繼續擴張，向西與盤踞新疆的阿古柏連成一片，最終關內回軍和領袖也將如烏魯木齊的妥明一樣，為野心家阿古柏所吞食，不僅西陲非複中國所有，連中原也岌岌可危了。左宗棠不避艱險，毅然引西事為己任。但是西事艱阻在何處呢？首先，對處理西事的方針有各種不同意見，是“剿”是“撫”，莫衷一是；朝廷又處處不放心，時加詰難，這些都給西征以巨大壓力。而西征軍事本身更是十分艱險的任務。在西北邊遠窮荒之地，作戰固然艱難，籌餉、運糧、運兵等後勤工作更是加倍困難。語雲：“兵馬未到，糧草先行。”如果不解決後勤工作的困難，就不可能取得軍事上的勝利。 對進軍西北的後勤工作，左宗棠有一個極為重要的觀點，即：“籌餉難於籌兵，籌糧難於籌餉，籌轉運又難於籌糧。”