左宗棠在宿鬆隻待了二十多天，因為兒子病情很嚴重，他提前回到湖南。曾國藩的本意，是叫他募勇對安徽的兵力進行支援，他在給曾國藩的信中卻這樣說道：“蘇州既失，為公計者，宜先以偏師保越為圖吳之計”，“是製此賊，必取遠勢，而不能圖速效”。又說：“先將江西兵事、餉事逐為經劃，亦當務之急也。”這個計策實際就是“保越圖吳”，爾後左宗棠在鎮壓太平天國運動中長期運用了這一戰略。左宗棠在湖南招兵買馬，將以前大批的湘勇集合在一起，又收聚了王錱的舊部，共得5804人，被稱為楚軍。這年八月間，他率楚軍經醴陵直趨江西，先在江西東北部和東部與太平軍進行了幾次交鋒，隨後轉戰到了浙江。
太平軍在戰略上也作了相應的調整。自安慶失守後，李秀成便把兵力全部集中到了江浙。從江西東向的侍王李世賢部及從廣西回師的石達開舊部，幾乎遍布了浙江全省。十一月二十八日，李秀成帶領太平軍一舉將浙江省會杭州攻克，巡撫王有齡萬般無奈，隻得自殺。在這之前，十月十七日、十月十八日、十月二十三日，清廷曾發三次廷寄，諭令左宗棠馬上趕到浙江去，負責軍務的督辦。曾國藩等於十月底做出決定，十一月十六日在給朝廷的奏折中說：“臣等往返熟商，即請左宗棠督率所部進援浙江，並將駐防徽州之臬司張運蘭，駐防廣信之道員屈蟠，駐防玉山之道員王德榜、參將顧雲彩，駐防廣豐之道員段起各軍，及副將孫昌國內河水師，均歸左宗棠就近節製調度。兵力稍厚，運棹較靈，於援剿浙、皖之時，仍步步顧定江西門戶，庶於三省全局有裨。”
當時，曾國藩作為兩江總督，原本隻是負責統率江蘇、安徽、江西三省，清廷因為對曾氏集團的依賴，又於十月十八日下發明諭，上述三省除外，“並浙江全省軍務，所有四省巡撫、提鎮以下各官，悉歸節製”，杭州將軍瑞昌隻是負責浙江軍務的幫辦。但曾國藩於十一月二十五日給朝廷的奏折中說：“以臣遙製浙軍，尚隔越於千裏之外，不若以左宗棠專辦浙省，可取決於呼吸之間。”又說，左宗棠“其才實可獨當一麵，應請皇上明降諭旨，令左宗棠督辦浙江全省軍務，所有該省主客各軍，均歸節製。即無庸臣兼統浙省”。曾國藩深感朝廷對自己有太重的依賴，給了他太尊貴的權位和太多的期望，令他感到有些畏懼，因此不敢控製四省，恐怕自己會犯下過錯；另一方麵，也說明曾國藩當時給予左宗棠的信賴與倚重也是非常多的。
左宗棠此時在廣信負責駐防工作，他根據“寧肯緩進，斷不後退”的原則，率軍至婺源，又分兵解除了徽州的包圍，使後方得到了鞏固。十一月十一日、十二日、十四日、十六日，朝廷又連發四道諭旨，催促左宗棠趕快帶兵趕到浙江。同治元年正月十五日，左宗棠才從江西東北邊境和皖南邊境翻山越嶺，曆經千辛萬苦進入到浙江省西北部開化縣，迫使太平軍退到遂安方向。其後，左宗棠根據曾國藩的以衢州府作為控製全浙的根據地的戰略決策，於五月初四日攻占衢州，以衢州為基地進奪全浙。八月，蔣益澧帶領八千多名湘軍從廣西開至衢州，左宗棠部的人數增到了一萬六千名之多。他們由南向北逐漸推進，太平軍頑強地抵抗了這種推進行動。
經過一年多的雙方拉鋸，直至同治三年二月二十五日（1864年），左宗棠在法國軍官德克碑的不敗之師的幫助下，才最後把杭州攻下。雙方又爭奪了幾個月，到這年八月下旬，左宗棠的楚軍基本上占領了浙江全境。左宗棠攻占杭州後不久，在三月十八日，朝廷命曾國荃補授浙江巡撫，左宗棠補授閩浙總督，同時仍然擔任浙江巡撫的職務。
此時，左宗棠在官場已經站穩腳跟，在清廷有了一定的地位。他與曾國藩的地位不相上下。