鹹豐七年（1857年）二月，曾國藩接到父親去世的噩耗，便回家為父奔喪，這次他在家待了一年四個月，直到鹹豐八年（1858年）六月，他才重新被朝廷起用。曾國藩懷著重振事業的遠大理想重返戰場，然而令他沒有想到的是，等待他的卻是全軍覆沒的滅頂之災，即三河鎮大敗。三河鎮大敗後，士氣遭到極大的挫傷，曾國藩的弟弟曾國荃召集六千湘勇前往支援曾國藩，連克幾座堅城，使曾國藩的內心稍感安慰。
鹹豐九年（1859年）十月，曾國藩兵分四路進攻金陵，與此同時，太平軍攻破清軍江南大營。江南大營的潰敗，預示著團練成為對付太平軍的主力。
鹹豐十一年（1861年）七月，在曾國藩支持下，曾國荃率部攻克安慶，然後就把金陵作為他的下一個目標。
同治元年（1862年）清廷下旨，任命曾國藩擔任兩江總督，協辦大學士。
同治二年（1863年）二月，安慶軍械所造出我國第一條木殼小火輪，曾國藩登船試航後，喜而命名“黃鵠號”。九月，曾國藩與容閎見麵，商量建造機器母廠，由母廠製造機器，再由機器製造槍炮、輪船。十二月，曾國藩派容閎到英、美等國購買用來製造機器的母機。
同治三年（1864年）六月，曾國藩一舉攻下金陵，至此，轉戰十餘年的湘軍總算完成了自己最初的使命。朝廷賞加曾國藩太子少保銜，賜一等侯爵。曾國藩懂得，曆朝曆代功高震主的權臣，大多會受到朝廷的猜疑。他心裏很明白，如何處理好同清政府的關係，已成為能否保持其權力和地位的關鍵，而擺脫自己目前這種政治處境的最好辦法就是裁軍。但曾國藩又考慮到還要為自己保存一些實力，於是，曾國藩從七月開始，陸續將軍隊裁到3萬人便不再裁了。這樣既不讓朝廷再猜疑自己，又保存了自己的實力。
同治四年（1865年）五月，朝廷頒給曾國藩欽差大臣關防，督辦直隸、山東、河南三省軍務，上剿撚。曾國藩針對撚軍靈活機動、來去迅速的特點，製定了河防政策，一方麵在黃河設置水師，防止撚軍從北麵渡過黃河，一方麵在運河西岸建築堡壘、長牆，想要把撚軍控製在黃河以南和運河以東一帶。然而，曾國藩的河防沒能防得住迅猛而來的撚軍。於是，曾國藩於同治五年（1866年）八月向朝廷上折，陳述河防之敗的情況。朝廷覺得曾國藩在剿撚過程中受挫，再讓他繼續擔此重任，恐怕也難以成功，同治六年（1867年）二月於是讓他重新擔任兩江總督職位，負責籌備軍餉的事務，由李鴻章接替他的職位繼續剿撚。
同治六年（1867年）七月，在曾國藩的督促下，中國近代史上第一艘大型兵艦造成，曾國藩把這艘船命名為“恬吉”號。其實早在鹹豐十一年（1861年）攻下安慶的時候，曾國藩就在安慶設立了中國第一家軍械所——安慶軍械所，用於生產近代化的武器，後來遷到金陵，改名為金陵製造局，金陵製造局又遷到上海，與上海虹口旗記鐵廠及原在上海、蘇州的三個炮局合並成立了江南機器製造局。曾國藩除了把製造槍炮彈藥和輪船的任務交給江南機器製造局外，還在局裏成立了翻譯館，翻譯西方著作，學習西方文明。據外籍人傅蘭雅統計，翻譯館自建立十二年內，翻譯成書的有四十五部，未譯全者十三部。翻譯內容非常廣泛，幾乎涵蓋了科學技術的各個領域，基本上集結了西學的優秀成果，其中主要包括物理、數學、化學和工藝，曆史和公法方麵的書籍也占了少數的一部分。
同治七年（1868年）四月，曾國藩奉上諭補授體仁閣大學士、武英殿大學士，七月調往直隸總督。十二月至翌年二月，抵達京師，多次受慈禧太後和同治皇帝接見。
同治八年（1869年）正月十六日，這天是皇上宴請群臣的日子，也是曾國藩一生榮耀到達極點的日子。這天，他作為漢人大學士的領班出席了盛宴，這是清朝一代人臣所能享受到的最高榮寵。
同治九年（1870年）六月，天津教案發生，曾國藩奉旨前去查辦，為了不得罪法國人而引起戰爭，曾國藩違心地處理了天津教案：處決天津市民20人，發配充軍25人，天津知府張光藻、知縣劉傑革職充軍，賠償法國五十萬兩白銀，並派崇厚向法國賠禮道歉。天津教案使得曾國藩幾十年的聲譽毀於一旦。八月四日曾國藩改調兩江總督，調查上任兩江總督馬新貽被刺的案子，由李鴻章接任直隸總督。
同治十年（1871年）八月，曾國藩與李鴻章商議容閎提出的選拔幼童出國留學的建議，一起會銜上奏《擬選子第出洋學藝折》。後來曾國藩又提出在美國設立“中國留學生事務所”，推薦陳蘭彬、容閎為正副委員常駐美國管理。在上海設立幼童出洋肄業局，薦舉劉翰清承擔“總理滬局選送事宜”。
同治十一年（1872年）二月初四，曾國藩到西花園散步，突然感到腳底發麻，身子一側，便倒在了兒子的身上。曾紀澤忙叫人把他背進大廳，曾國藩端坐三刻逝世。是月，清廷聞訃，輟朝三日。追贈太傅，諡文正。六月，曾國藩的靈柩運抵長沙，葬於長沙南門外之金盆嶺。次年十二月，改葬於善化縣（今望城縣）湘西平塘伏龍山，與夫人歐陽氏合葬。