在杭州失手之後，蘇州、常州、寧國和廣德的太平軍，都把湖州當撐避難所。這個時後，李世賢等部仍有幾萬人，但是各將領打算各奔前路，部隊一時間支離渙散。楚軍高連升部乘此良機進兵湖州，一舉擊斃了太平軍幾千人，燒毀船舶有一千多隻。
李世賢決定率部繞道昌化，襲擊績溪，奔赴湖州，進入江西。汪海洋、陳炳文部傍靠徽州，從深渡進擊淳安與遂安，被王開琳所部阻擊。左宗棠增派劉明珍、劉清亮部出兵嚴州和衢州，太平軍返回屯溪。黃文金與楊輔清部據守湖州，連營幾十裏。
左宗棠認為湖州四麵臨水，必須先破菱湖，才能向西進軍，實行合圍。於是，他令高連升、王月亮、蔡元吉各部從德清進軍靈山，攻擊西南；令劉樹元、何培章部從石門進軍埭溪，攻擊東南；先遣劉連升、羅啟勇率領水師攻擊菱湖。
這時，好消息傳來。清廷下詔，加左宗棠太子少保銜，並賞穿黃馬褂。左宗棠麾下將士，都得到不同程度的擢拔。楚軍乘勢攻破菱湖太平軍一座營壘。
駐紮在湖州的太平軍出動幾萬人全力攻打楚軍高連升的軍營，同時又派出一萬人從張村抄襲楚軍軍營的後方。高連升審時度勢，看到太平軍陣勢後方人員密集，知道敵人有埋伏，命令部隊不要輕舉妄動。
兩軍一直相持到黃昏，太平軍開始持火炬進攻楚軍。高連升收兵回營，卻在壁壘旁密布火器，暗中發射。太平軍中計，受到重創不得不選擇撤退。高連升見狀，令全軍出動追擊，太平軍在逃跑途中自相蹂躪，傷亡慘重，屍骸枕藉。抄襲張村的太平軍，也遭到從武康出兵的楚軍羅大春部打擊，失敗而退。
這時又一個捷報傳來，台灣的綠林起義已被清軍平定。左宗棠得知消息後令清軍林文察部內渡，康國器部則從蒲城增援，兵分水陸兩路共同攻打菱湖。同時，蔡元吉部也在菱湖的東南紮營，渡河之後，攻破了十座壁壘，占領了荻港。
這時，太平軍在江西兵力強大，李世賢部駐紮崇仁，汪海洋部駐紮東鄉。在江西會師的太平軍之所以為數眾多，是因為他們認為湖南人是自己的克星，不敢進入相鄰的該省。從贛水往東，到處都有太平軍。清廷得到報告，頗為憂慮。左宗棠上奏，建議清廷在江西集結兵力，使江西太平軍無法返回皖南，救援天京。他認為江西沒有能夠服眾的統軍將領，向清廷推薦楊嶽斌督辦江西和皖南的軍務，由劉典協助辦理。清廷允奏。
1864年6月1日，太平天國天王洪秀全在天京去世，幼主洪天貴福即位，太平軍日益軍心渙散。僵持到7月19日，湘軍曾國荃部攻克天京。當天正午，天京太平門外一聲巨響，城牆崩坍，煙塵升起數十丈，天京陷落。湘軍對天京的圍攻終於有了一個血腥的結尾，整個天京城都籠罩在一片恐怖的氛圍中。
兩天之後，氣喘籲籲的信使叩響了曾國藩湘軍大營的營門。已經睡下的曾國藩在三更天被人叫醒，馬上披衣複起。他已經猜到是什麼消息，顫抖的手緊緊握住谘文，讀後百感交集，夜不能寐。
曾國藩從起兵到今天，整整十二年了。這十二年裏，他失去了兩個親兄弟，也親手把數萬名湘鄉老鄉送入鬼門關。自己更是幾次自殺，數度臨險，忍受了無數艱巨和委屈，才換來這一張捷報，於是連忙向清廷報捷。
收到捷報，清廷冊封曾國藩為一等侯，世襲罔替，同時冊封曾國荃為一等伯。有清一代近三百年裏，漢人得此榮譽者，少之又少。真是兄弟二人皆列土，可憐光彩生門戶。
然而，就在封侯的喧鬧喜慶過去不久，曾國藩卻又一次陷入了苦惱之中。原來，曾國荃午夜送來的那張捷報存在著一個致命的問題。曾國荃沒有詳細調查，就匆忙彙報說，天京城內十萬太平軍皆被消滅，幼天王舉火自焚。天京一役，圓滿成功。
然而曾國藩所沒有想到的是，在天京城破之際，太平軍有數千人成功突圍。而這在突圍的數千人當中，就有洪秀全的兒子幼天王。太平天國幼天王成功逃脫，使得太平軍殘部仍心有所係，那湘軍平定太平天國自然不能算是徹底的成功，那麼曾國荃圍困天京血戰兩年得來的\"首功\"由此也大打折扣。
曾國藩得知真相後，如同當頭一瓢涼水。他隻能盼望周圍布防的湘軍能在天京城外迅速抓住幼天王。這樣，他也可以從容向朝廷彙報，極力回旋，使他們兄弟不至於十分難堪。
更讓曾國藩想不到的是，太平天國幼天王居然一路逃過湘軍在天京城外的層層布防，直走千裏逃到湖州投奔了太平軍剩餘諸王中的堵王黃文金部。更嚴重的是，居然有人不稟告他，而是直接將此消息報告給了朝廷。此人就是左宗棠。
原來早在此之前左宗棠就已經通過線人，提前得知了太平天國幼天王的行蹤。而按常理而言，左宗棠應該及時把這個消息告訴曾國藩，讓曾國藩來決定如何處置整個事情。退一步說，即使是由他來向朝廷彙報，無論如何也應該先與曾國藩、曾國荃兩兄弟通報一下情況。這樣於國家無損，而於私誼有益。