同治三年二月（1864），左宗棠下令加緊攻城，楚軍水陸配合，首先攻破城外堡壘，而後分兵攻擊五門。太平軍經多次激戰，已無力再守，乃於半夜從北門突圍。楚軍立即從其他各門湧進，攻占杭州。同日，據守餘杭的汪海洋也棄城而逃。清廷聞報大喜，立即下詔嘉獎，予左宗棠加太子太保銜，賞穿黃馬褂。
太平天國失敗後，太平軍餘部還有十幾萬人馬活動於長江南北。長江以北為賴文光部，後與北方撚軍合一，成為撚軍之一部。江南主要為李世賢、汪海洋部，合計10餘萬眾。隨後，他們進入江西，又南下進入福建。清廷急忙命左宗棠為閩浙總督前往福州，負責鎮壓這支進入福建的太平軍餘部。
十月，左宗棠由杭州起行進入福建。李世賢、汪海洋等受楚軍追擊，於同治四年春（1865）分部退入廣東境內，沿途因多次戰鬥，遭受嚴重損失。左宗棠率各軍緊追不舍，隨即追入廣東。七月，李世賢被汪海洋殘殺，勢力更孤。十二月，汪海洋占據嘉應州作最後的掙紮。同月左宗棠指揮各軍發起總攻，擊斃汪海洋，消滅了其全軍。至此，湘軍與太平軍長達14年的戰爭宣告結束。
創辦船廠開設學堂
太平天國起義雖然被鎮壓下去，但中國仍麵臨帝國主義列強侵略的危機。左宗棠受林則徐、魏源促進國防近代化思想的影響，更加深刻地認識到，國家要打敗侵略者，不僅要有民族氣節，而且還要引進西方先進的科學技術，興辦近代軍事工業。他提出，隻有建立自己的水師，才能有效地抵禦來自海上的侵略，而要建立水師，應必須建立造船廠打造兵船。
1866年，左宗棠在任閩浙總督時，在福州馬尾創辦了福州造船廠，即福州船政局，這可以說是中國海軍的萌芽。
他計劃在福州船政局建立之後，建成一艘船，就訓練一船軍兵，使該船有戰鬥力，用五年的時間，就可以造出數條船，建立一支可以與帝國主義抗爭的船隊。還把造船和發展經濟聯係起來，所造船隻可以在海上運輸貨物，促進沿海各省的貿易，既可使百姓富裕，也可使國家富強。
左宗棠不光重視引進西方科學技術，建造中國自己的兵船，對近代軍事人才的培養他也十分重視。他深刻地認識到，造船要配套，造船的同時要培養自己的駕駛和檢修機器的人員，這樣才不會受製於人。要培養自己的製造、駕駛、檢修一整套人員，就要辦學校。於是，1866年，左宗棠在籌建福州船政局時，一麵派人赴西方購置造船所用機器、部件，一麵在福建馬尾山上，開設了福建船政學堂，這是我國近代第一所海軍軍官學堂，免費招收學生，請外國教師來教，學生既學外語（包括英語、法語），又學自然科學和理工學，學習有關造船技術及工藝，學習近代海軍戰術和駕駛等方法。當時船政大臣沈葆楨說出了福州船政局的目的，不重在造成，而重在學習。從這點看，左宗棠是有戰略眼光的，隻要有自己的技術人員，造船就不會有困難了。
當時，大多數軍艦都出自福州船政局。中法戰爭以前，中國有北洋水師、閩江水師和南洋水師。閩江水師十一艘兵艦除兩艘是從美國購進外，其餘九艘均為福州船政局製造。北洋水師的康濟、威遠、眉方、泰安、鎮海等也出自福州船政局，占全部北洋水師艦隻的五分之二。南洋水師的澄慶、橫海、鏡清、開濟、靖遠等也出自福州船政局，占全部南洋水師艦隻的三分之一。左宗棠在建立水師，鞏固國家海防，抵禦列強海上入侵上功勞巨大。