太平軍雖然在湖北江西失利，但在南京這時卻大敗向榮的大軍。太平軍內後來發生了慘烈的內訌，削弱了自己的力量，終於失去所取得的大部分地區。此時曾國藩的父親於鹹豐七年二月二十七日也逝世，曾國藩隻得暫時離職奔喪。不過，他那些才幹出眾的將領們，按照他的計劃於鹹豐八年五月十九日收複九江。然後進攻安慶，以便最後收複南京。為收複安慶，雖然有許多在太平軍包圍下的城池乞求他前去支援，但他一概不予理睬。為便於攻取安慶，曾國藩率部進駐皖南祁門。鹹豐十年，曾國藩被授任兩江總督，加授欽差大臣統領江南軍事。至此，他已擁有處理軍務的全權，其中包括籌集軍餉等財政大權。
鹹豐十年至十一年間，曾國藩處境又轉入艱難。鹹豐十年早些時候，太平軍在南京附近擊潰重整後的清軍，在李秀成指揮之下，太平軍又再度煥發青春，主動進攻清軍。江蘇及浙江大部地區，都落入太平軍手中，僅上海一地未被太平軍完全占領。但太平軍對上海的多次進攻，均被李鴻章等擊退。就在這年，英法聯軍打到北京城，清帝及大臣俱逃往熱河避難。各地紛紛呈請曾國藩派兵支援。然而自鹹豐十年九月，曾國藩也在祁門被太平軍圍困，對馳援其他地方，他是泥菩薩過江，自身難保，心有餘而力不足。鹹豐十一年四月，曾所處困境達於極點，但他下定決心誓死不退。直到左宗棠及其它部隊增援祁門，形勢才開始好轉。後來曾國藩的弟弟曾國荃終於在鹹豐十一年九月五日攻占安慶，此後，曾國藩即以安慶為基地，準備收複南京。為避免在南京一線集結過多的軍隊，並防止太平軍趁機奪取清軍後方地盤，曾國藩擺開了三個戰區：一在江蘇，由李鴻章統轄；另一在浙江，由左宗棠統轄；第三在安徽由他自己統轄。清軍在這三個地區頻頻對太平軍發起攻擊，各地的太平軍逐漸被圍困，此時曾國荃，自請攻取南京。自鹹豐三年三月十九日南京成為太平天國的京城以來，大量清軍多次被擊潰，尤其是在鹹豐六年八月、鹹豐九年十一月及鹹豐十年八月圍攻南京的清軍傷亡特別慘重。當時雖然外國軍隊打算前來援助，但被曾國荃所拒絕。經過長期圍困及殊死戰鬥，曾國荃於同治三年（1864）七月十六日終於攻克南京。不過太平軍的餘部，直到兩年後才被完全剿滅。對於最終剿滅太平軍論功首推曾國藩，清廷賜他一等“毅勇”侯封號，他是文官中獲此封爵的第一人。
太平軍被平定之後，曾國藩繼續任兩江總督，駐留南京數月。此期間他致力於恢複江浙地區生產工作，在飽受十五年戰亂之苦的江南地區恢複學術活動。同治三年初，曾國藩就在安慶大營建立起官辦書局，刊刻經史典籍。戰亂平定以後，他聘著名學者主持書局，事後他遣返大部分湘軍回鄉歸農，軍中某些文官則受雇擔任書局校對。當年，他頒布條例，在南京、蘇州、揚州、杭州及武漢各建書局。此即“官辦五局”。十二月二十日恢複南京鄉試。在太平軍占領期間，這個地區的鄉試中斷多年。
同治四年六月，清政府下諭急令曾國藩前往山東征剿撚軍。曾國藩受命統領山東、直隸
及河南軍事。但曾國藩北方剿撚一年多，不但沒有取得戰果，撚軍日益壯大。李鴻章於同治四年十二月十二日繼任其職，曾國藩返回南京。
早在同治二年，容宏曾向曾國藩建議，在上海籌建鐵工廠，此即後來的江南造船廠。容宏經曾國藩同意後從國外購進機器。同治五年江南製造局成立，同治七年，該局建成中國第一艘輪船，並駛至南京請曾國藩驗看。
同治六年，曾國藩拜大學士。同治七年九月，出任直隸總督，任內，曾國藩著手處理一大批長期懸而未決的案件，改進了辦事效率，並製訂出一項建立常備軍的方案。同治九年，他奉令調查並處理“天津教案”。此案即將結束，曾國藩因年老多病，於同治十年調回南京原任。不久直隸總督由李鴻章繼任。八月十八日，曾與李聯名上疏，建議派遣青年學生赴海外留學。這一項建議同治十一年實施。然而，就在學生啟程出洋之前幾日，曾國藩病逝。