1853年（鹹豐3年）43歲1月21日，接幫辦湖南團練旨。經郭嵩燾力勸出保桑梓。30日，抵長沙與湖南巡撫張亮基商辦團練。3月19日，太平軍攻占江寧，定都為天京。9月，奏準移駐衡州練兵。11月，建衡州船廠趕造戰船。派人赴廣東購買洋炮，籌建水師。
1854年（鹹豐4年）44歲2月25日，奉命率師出征太平軍。發布《討粵匪檄》。命褚汝航為水師總統、塔齊布為陸軍先鋒，統率1.7萬人，揮師北上。5月，兵敗靖港，投水自裁獲救。7月25日，重整水陸各軍後，出師攻陷嶽州。10月14日取武昌。鹹豐帝令其署理湖北巡撫。7天後收回成命。改賞兵部侍郎銜。12月2日攻陷田家鎮。
1855年（鹹豐5年）45歲2月12日夜，石達開總攻湘軍水營，燒毀湘軍戰船100餘艘。曾國藩座船被俘，“文卷冊牘俱失”。“公憤極，欲策馬赴敵以死”，羅澤南、劉蓉力勸乃止。
1856年（鹹豐6年）46歲7月，坐困南昌。9月2日，楊、洪內訌（天京事變）後，太平軍元氣大傷。10月，曾國藩在長沙募勇組建吉字營入援江西。
1857年（鹹豐7年）47歲2月27日，其父去世，偕弟國華回籍奔喪。7月，兩次上疏，請求在家終製，獲鹹豐帝準許。是年建“思雲館”。
1858年（鹹豐8年）48歲5月19日，李續賓、楊嶽斌率水陸兩軍攻陷九江。弟國華入李幕。7月13日，接上諭命其出辦浙江軍務，17日起程。8月5日，抵武昌。與胡林翼會商進兵、籌餉之策。11月15日，李續賓、曾國華死於三河之役。12月，作《愛民歌》以訓湘軍。
1859年（鹹豐9年）49歲1月，李鴻章來建昌進謁、留營襄辦軍務。是月，曾國葆改名貞幹入湘軍，為其兄國華報仇。2月，作《聖哲畫像記》。11月，擬四路進兵之策，攻取安慶。
1860年（鹹豐10年）50歲5月，輯錄《經史百家雜鈔》26卷，“取精用宏”，“盡掄四部精要”。6月，左宗棠來營，留住兩旬，商討東南大局；奉命以兵部尚書銜署理兩江總督。7月，委授兩江總都，並以欽差大臣督辦江南軍務。10月18日與胡林翼、李續賓商籌北援之策。上疏請求帶兵北上掃夷勤王、以“雪敷天之憤”。12月，祁門大營兩度被困，太平軍距大營僅20裏，“危險萬狀”。
1861年（鹹豐11年）51歲8月23日，是《複陳購買外洋船炮折》：“購買外洋船炮，則為今日救時之第一要務。”9月5日，湘軍攻陷安慶。25日，移住安慶。11月20日，奉旨督辦四省（蘇、皖、浙、贛）軍務，其巡撫、提鎮以下悉歸節製。12月，在安慶創辦內軍械所。年底，定三路軍進軍之策：“以圍攻金陵屬之國荃，而以浙事屬左宗棠，蘇事屬李鴻章，於是東南肅清之局定矣。”
1862年（同治元年）52歲1月31日，奉旨任兩江總督協辦大學士，曾國荃補授浙江按察使。2月14日，左宗棠率軍由江西入浙江。4月，李鴻章率軍抵上海。5月，曾國荃率軍進駐雨花台，會同彭玉麟的水師圍攻天京。7月18日，為借兵助剿事再疏力陳利害：“島人借助剿為圖利之計……而中華之難，中華當之”，決不能讓洋人以助剿來“蹂躪中國之土地”。9月，為死於戰亂而未及安葬的桐城儒生方東樹、戴鈞衡6人立石修墓，妥為安葬。12月，其弟曾國葆病死於雨花台湘軍大營。年底，華衡芳與徐壽父子試製成中國第一台蒸汽機，曾國藩見後，於當天日記中寫道：“竊喜洋人之智巧我國亦能為之，彼不能傲我以其所不知矣！”
1863年（同治2年）53歲1月28日，安慶軍械所造出我國第一條木殼小火輪，曾國藩登船試航後，喜而命名“黃鵠號”。5月7日，致函總理各國事務衙門，謂“洋人本有欺淩之心，而更授以可淩之勢；華人本有畏怯之素，而逼處可怯之地”，反對購買要由海軍上校指揮控製的船艦。9月，與容閎見麵，商籌建立製造船艦的工廠。12月3日，交容閎6.8萬兩銀赴美購買機器。
1864年（同治3年）54歲1月，派李鳳苞測量江浙外海各島嶼沙線。5月，江浙藏書遭兵劫多有毀損，定刊書章程，即於安慶設書局，刊刻各種經史。6月3日，洪秀全病逝天京，其長子繼位。7月19日，湘軍攻陷天京，太平軍宣告失敗。7月，曾國藩賞加太子太保、一等侯爵。曾國荃賞太子少保、一等伯爵。8月15日，奏準裁撤湘軍2.5萬人。10月，行轅移駐安陵。11月，奏準停征厘舍、畝捐。12月，主持修複江南貢院，補行江南鄉試，會考江南優貢。