在左宗棠軍隊的進攻下，太平軍在浙江的勢力迅速瓦解。但當各支部隊爭相建議要乘勝收取太平軍所占據的杭州時，左宗棠卻不為之所動。左宗棠喜歡打攻堅戰，認為皖南太平軍的氣勢還很旺盛，要消滅太平軍的主力，必須穩紮穩打，先去其枝葉，再折其主幹，而不要貪圖近功。於是左宗棠率部從金華向嚴州進軍。左宗棠命令劉典帶領八千人會同王文瑞部防守徽州，命劉培元、王德榜部隊駐守淳安、開化，讓蔣益澧率部攻打富陽。左宗棠在此期間彈劾罷免了道府以及失守的將吏17人，薦舉浙江名士吳觀禮等人賑濟災荒，招募老百姓墾田，保證軍糧豐足供給。四月，朝廷任命左宗棠為浙閩總督兼巡撫事宜，不久左宗棠的部隊遭到了軍糧供應困難，劉典的部隊到達皖南之後，便留在那裏屯守。蔣益澧打入富陽，由於富陽太平軍的頑強抵抗，軍隊損失很大。及後，左宗棠患了虐疾，困乏疲憊，富陽很長時間了都未能攻下。在這種情況下，左宗棠集中兵力，從水陸兩路大舉進攻，終於將富陽攻克。蔣益澧等則長驅直入包圍杭州，魏喻義、康國器進攻餘杭。
左宗棠認為杭州的太平軍倚恃餘杭以為犄（jī）角，如果不先攻下餘杭，收複海寧，則不能切斷嘉興、湖州對杭州的後援接應，因而左宗棠親自到餘杭督戰。此時，太平軍都城受到曾國荃湘軍越來越緊的圍攻，洪秀全多次命令李秀成率江浙的太平軍解圍。同治三年二月，杭州太平軍守將陳炳文見形勢不妙，約定獻城投降。左宗棠擔心時間一長會引起變化，於是乘大雨天發起緊急進攻，陳炳文深夜開城門遁逃了。杭州收複後，餘杭的太平軍將領汪海洋也往東逃跑了。鹹豐皇帝得到捷報，下詔給左宗棠加授太子少保銜，賞賜黃馬褂。
左宗棠軍隊進入杭州，申明軍紀。招集商賈（ɡǔ，商人）開門營業，停止征收杭州貨物的關稅，減征杭州、嘉興、湖州三分之一的賦稅，還大力招攬賢士，左宗棠的種種做法受到廣泛稱讚。不久大部太平軍又聚結湖州，左宗棠馬上調遣部隊包圍他們，使浙江太平軍餘部又受到沉重損失，三月，江蘇太平軍攻克常州。在江蘇的太平軍餘部向浙江的徽州、婺源，然後又向江西靠攏。左宗棠把太平軍進入江西認為是心腹之患，奏請清廷請曾國藩部楊嶽斌督率江西、皖南部隊，讓劉典當副將圍剿。六月，曾國荃攻克太平軍都城天京，洪秀全服毒自殺。其子在太平軍將士的護衛突圍出去，左宗棠立即率部圍擊，洪秀全的兒子不久也被俘，在南昌被處以碟刑磔（zhé）刑：古代的一種酷刑，把肢體分裂。。七月左宗棠攻克湖州，浙江各地得以全部平定。評論軍功，朝廷封左宗棠為一等恪靖伯。
及後殘餘的太平軍流散到徽州、寧國、江西、廣東等地，還打入了福建的汀州，福建方麵驚慌失措。因而左宗棠奏請蔣益澧護衛巡撫，自己移鎮福建並增調王德榜部到福建。同治四年三月，江蘇淮軍郭鬆林前來福建會師，太平軍不得不放棄漳州，離開大埔。五月，太平軍餘部李世賢、汪海洋屢次戰敗後，精銳部隊傷亡過半，投降的有三萬人。左宗棠部隊進駐漳州、武平，這樣一來太平軍隻好撤到廣東的鎮平。於是福建也平定下來。
接著左宗堂又下令調康國器、關鎮平兩支部隊進入廣東，王開琳的部隊進入贛（ɡàn）州防守江西，劉典的部隊赴湘南防守湖南，留下高連升、黃少春的部隊駐軍武平，偵伺太平軍的進退情況。六月，太平軍又大舉進攻武平，左宗棠指揮軍隊奮力擊退太平軍餘部。後來，由於太平軍內部發生了內訌（hònɡ），李世賢投靠汪海洋被汪所殺，這樣太平軍內部更加互相猜疑，人心惶惶不安。朝廷下詔讓左宗棠統率三省各路部隊，趁機迅速合圍。十月，左宗棠移師屯駐績溪。王德榜擔心主帥屯兵之處成孤懸之勢，主動請命作為中路策應，劉典聽說王德榜的部隊開赴前線，也帶領部隊火速前進。劉典部隊在路上突然遇上太平軍伏擊，措手不及，打了個敗仗。太平軍乘勝追擊劉典，但又為王德榜軍伏擊包圍，太平軍死傷逾四萬，據說太平軍主要首領汪海洋也中炮死了，清軍士氣更為高漲。這時鮑（bào）超的部隊也趕到了，太平軍出戰，又被打得大敗。左宗棠彙合閩、浙、粵各路人馬合圍，太平軍餘部的最後根據地喪失，許多首領也犧牲了。太平軍將士戰死達一萬六千多人。由於這一戰功，朝廷下召賜予左宗棠雙眼花翎。