山東、河南民習見僧格林沁戰，皆怪國藩以督兵大臣安坐徐州，謗議盈路。國藩在軍久，益慎用兵。初立駐軍四鎮之議，次設扼守黃運河之策。既數為言路所劾，亦自以防河無效，朝廷方起用國荃，乃奏請鴻章以江督出駐徐州，與魯撫會辦東路；國荃以鄂撫出駐襄陽，與豫撫會辦西路：而自駐周家口策應之。或又劾其驕妄，於是國藩念權位不可久處，益有憂讒畏譏之心矣。丐病假數月，繼請開缺，以散員留軍效力；又請削封爵：皆不許。
五年冬，還任江南，而鴻章代督軍。時牛洪死，張總愚竄陝西，任柱、賴文光竄湖北，自是有東、西撚之號。六年，就補大學士，留治所。東撚由河南竄登、萊、青，李鴻章、劉長佑建議合四省兵力堵運河。賊複引而西，越膠、萊、河南入海州。官軍陣斬任柱，賴文光走死揚州。以東撚平，加國藩雲騎尉世職。西撚入陝後，為鬆山所敗。乘堅冰渡河竄山西，入直隸，犯保定、天津。鬆山繞出賊前，破之於獻縣。諸帥勤王師大至，賊越運河竄東昌、武定。鴻章移師德州，河水盛漲，扼河以困之。國藩遣黃翼升領水師助剿，大破賊於茌平。張總愚赴水死，而西撚平。凡防河之策，皆國藩本謀也。是年授武英殿大學士，調直隸總督。
國藩為政務持大體，規全勢。其策西事，議先清隴寇而後出關；籌滇、黔，議以蜀、湘二省為根本。皆初立一議，後數年卒如其說。自西人入中國，交涉事日繁。金陵未下，俄、美、英、法皆請以兵助，國藩婉拒之。及廷議購機輪，置船械，則力讚其成，複建議選學童習藝歐洲。每定約章，輒詔問可許不可許，國藩以為爭彼我之虛儀者可許，其奪吾民生計者勿許也。既至直隸，以練兵、飭吏、治河三端為要務，次第興革，設清訟局、禮賢館，政教大行。
九年四月，天津民擊殺法領事豐大業，毀教堂，傷教民數十人。通商大臣崇厚議嚴懲之，民不服。國藩方病目，詔速赴津，乃務持平保和局，殺十七人，又遣戍府縣吏。國藩之初至也，津民謂必反崇厚所為，備兵以抗法。然當是時，海內初定，湘軍已散遣，天津咫尺京畿，民、教相閧，此小事不足啟兵端，而津民爭怨之。平生故舊持高論者，日移書譙讓，省館至毀所署楹帖，而國藩深維中外兵勢強弱，和戰利害，惟自引咎，不一辯也。丁日昌因上奏曰：“自古局外議論，不諒局中艱苦，一唱百和，亦足以熒上聽，撓大計。卒之事勢決裂，國家受無窮之累，而局外不與其禍，反得力持清議之名，臣實痛之！”
國藩既負重謗，疾益劇，乃召鴻章治其獄，逾月事定，如初議。會兩江缺出，遂調補江南，而以鴻章督直隸。江南人聞其至，焚香以迎。以亂後經籍就熸，設官書局印行，校刊皆精審。禮聘名儒為書院山長，其幕府亦極一時之選，江南文化遂比隆盛時。
國藩為人威重，美須髯，目三角有棱。每對客，注視移時不語，見者竦然，退則記其優劣，無或爽者。天性好文，治之終身不厭，有家法而不囿於一師。其論學兼綜漢、宋，以謂先王治世之道，經緯萬端，一貫之以禮。惜秦蕙田《五禮通考》闕食貨，乃輯補鹽課、海運、錢法、河堤為六卷；又慨古禮殘闕無軍禮，軍禮要自有專篇，如戚敬元所紀者。論者謂國藩所訂營製、營規，其於軍禮庶幾近之。晚年頗以清靜化民，俸入悉以養士。老儒宿學，群歸依之。尤知人，善任使，所成就薦拔者，不可勝數。一見輒品目其材，悉當。時舉先世耕讀之訓，教誡其家。遇將卒僚吏若子弟然，故雖嚴憚之，而樂為之用。居江南久，功德最盛。
同治十三年，薨於位，年六十二。百姓巷哭，繪像祀之。事聞，震悼，輟朝三日。贈太傅，諡文正，祀京師昭忠、賢良祠，各省建立專祠。子紀澤襲爵，官至侍郎，自有傳；紀鴻賜舉人，精算，見疇人傳。
論曰：國藩事功本於學問，善以禮運。公誠之心，尤足格眾。其治軍行政，務求蹈實。凡規畫天下事，久無不驗，世皆稱之，至謂漢之諸葛亮、唐之裴度、明之王守仁，殆無以過，何其盛歟！國藩又嚐取古今聖哲三十三人，畫像讚記，以為師資，其平生誌學大端，具見於此。至功成名立，汲汲以薦舉人才為己任，疆臣閫帥，幾遍海內。以人事君，皆能不負所知。嗚呼！中興以來，一人而已！