曾國藩以其敏銳的洞察力意識到了危機，心中不免有寒心。曾國藩曾對同鄉知交劉蓉說過：我浴血奮戰，受此猜忌，令人心寒；若被謀害，墓誌銘裏一定要替我鳴冤，否則死不瞑目。曾國藩深知要想做到精忠報國又要做到功成身退，是一件很困難的事情，古往今來能做到這點的人寥寥無幾。曾國藩的想法在他的日記中屢屢表露：“日內因戶部奏折似有意與此間為難，寸心抑鬱不自得。用事太久，恐人疑我兵權太重、利權太大。意欲解去兵權，引退數年，以息疑謗，故本日具折請病，以明不敢久握童柄之義。”“接奉廷寄，因十二月十八日秦兵之敗，霞仙革職。業經告病開缺之員，留辦軍務，致有此厄，宦途風波，真難測矣！然得回籍安處，脫然無累，猶為亂世居位者不幸中之幸。”
二、功成身退
攻下天京後，曾國藩就以\"湘軍作戰年久，暮氣已深\"為理由，奏請裁湘軍歸鄉裏，遠在攻克金陵之前，曾國藩就有裁軍計劃，他在兩江總督任內，便已拚命籌錢，兩年之間，已籌到500萬兩。錢籌好了，辦法擬好了，戰事一告結束，便立即宣告裁兵。不要朝廷一分錢，裁兵費早已籌妥了。
事實上，湘軍並非是全部被裁光，曾國藩的嫡係部隊基本上保留下來，一部分由曾國荃統率。光緒十三年，我們還可見曾國荃有關湘軍的秦議。一部分由左宗棠帶往西北去了。一部分水師由黃翼升統帥。其他中下級幹部，轉入淮軍去了。曾國藩明白如果手中沒有兵權得話，隻能任人宰割。故此他讓李鴻章按淮不動。早在裁湘軍之前，曾國藩就寫信給李鴻章說：
惟湘勇強弩之末，銳氣全消，力不足以製撚，將來戡定兩淮，必須貴部淮勇任之。國藩早持此議，幸閣下為證成此言。兵端未息，自須培養朝氣，滌滌暮氣。淮勇氣方強盛，必不宜裁，而湘勇則宜多裁速裁。
曾國藩書中之意極深，隻有李鴻章才能理解他的苦衷：朝廷疑忌握兵權的湘淮將領，輿論推波助瀾，欲殺之而後快，如湘淮並裁，斷無還手之力，若留淮裁湘，則對清廷可能采取的功高震主者起到強大的牽製作用。李鴻章即窺見到清廷的用心，又理解了曾國藩的真實意圖，因而決定投雙方之所好，坐收漁人之利。他深知在專製製度下“兵製尤關天下大計”，淮軍興衰關乎個人宦海浮沉。他致函曾國藩表示支持裁湘留淮的決策，說“吾師暨鴻章當與兵事相終始”，淮軍“改隸別部，難收速效”，“惟師門若有征調，威信足以依恃，敬俟卓裁。”由於曾、李達成默契，所以裁湘留淮便成定局。
曾國藩裁軍還有另一個原因，就是防止湘軍造反。清政府命令曾國藩，呈報曆年經費開支帳目。這等於要湘軍的命。打了十多年的仗，朝廷不發軍餉，都是曾國藩到處募捐，七扯八揍，勉強開支過去。這一筆帳如何報銷？湘軍將領聽到這一消息，無不義憤填膺，決心造反。曾國荃、左宗棠、彭玉鱗、鮑超四人，召開了玄武湖會議，議決肅清君側。此議雖被曾國藩壓下，而湘軍將領反清情緒，仍沒有消除。曾國藩以迅雷不及掩耳的手段毅然裁兵，這也是一個原因。
但是，軍可裁，官不可不做，曾國藩在領兵作戰時，一再請求回家為父母服喪終製，而戰事終了後，何以從不提及此事，這點仍和他的憂畏有關。
曾國藩在削平太平天國之亂後，皇帝封他為一等毅勇侯，世襲罔替。他是事實上的湘軍領袖，凡是湘軍出身的將領，無論是執掌兵權抑或出征疆場，都視他為精神上思想上的領導者，而湘軍在裁遣之後，被藏者多至數萬，功名路斷，難免有很多人感到心情不滿。
曾國藩如果在此時請求解官回籍終老，皇帝當然不能不接受他的要求。但如他在回到鄉間之後，以一個在籍鄉紳的地位，忽然為一群圖謀不逞之人所挾製，並奉之為領袖人物，即使曾國藩知所自處，而對清朝政府來說，也仍然不是保全功臣之道。如果清政府懷有過人的恐懼，曾國藩之辭卸官職，正表示他有不願繼續為朝廷效力的意願，那就更容易發生不必要的猜忌了。
所以，曾國藩在此時一方麵自動解除兵柄，一方麵更留在兩江總督任上繼續為清政府效力，決不輕言去留。與此同時，他還勸說弟弟曾國荃主動向清廷奏請開缺，以身體不舒服為理由，請求回家養病。這麼做無疑是使清政府絕對感覺放心的最好辦法。