湘軍成立後，首先把攻擊的矛頭指向太平軍。在曾國藩的指揮下，湘軍依仗洋槍洋炮攻占了太平天國的部分地區。為了盡快將太平天國的起義鎮壓下去，在清朝正規軍無能為力的情況下，清廷於1861年11月任命曾國藩統率江蘇、安徽、江西、浙江4省的軍務，這4個省的巡撫(相當於省長)、提督(相當於省軍區司令)以下的文武官員，皆歸曾國藩節製。自從有清以來，漢族人獲得的官僚權力，最多是轄製兩三個省，因此曾國藩是有清以來獲得最大權力的漢族官僚。對此，曾國藩並沒有揚揚自得，也不敢過於高興。他頭腦非常清醒，時時懷著戒懼之心，居安思危，審時韜晦。
事實上，曾國藩的韜晦是非常必要和重要的。因為當曾國藩率湘軍攻占了湖北省省城武昌的消息報告到清廷後，朝廷上下反應不一。鹹豐皇帝喜形於色，對身邊的大臣們說：“沒有想到曾國藩這樣一個書生，竟有這樣大的本事，建立下如此豐偉功績。”眾大臣聽皇帝誇獎曾國藩，不僅產生了妒意，而且有戒備之心，怕曾國藩的出現危及自己的既得利益。因此，有的人在皇帝誇獎曾國藩後就不失時機地提醒鹹豐帝說：“曾國藩在家為其母守喪時，已不是清廷的官員。這樣一個在籍侍郎居然能一呼百應，從者萬人，此恐非國家之福。”本來很高興的鹹豐皇帝聽到這麼一說，其臉色立即由晴轉陰，很長時間陷入沉思，一語不發。曾國藩對清廷皇帝、大臣們的心態是很了解的，所以他在率湘軍鎮壓太平天國起義中取得了一定成績時，沒有喜形於色，而是非常謹慎。
後來，太平天國起義被鎮壓下去之後，曾國藩因為作戰有功，被封為毅勇侯，世襲罔替。這對曾國藩來說，真可謂功成名就。但是，富有心計的曾國藩此時並未感到春風得意，飄飄然。相反，他卻感到十分惶恐，更加謹慎。他在這個時候想得更多的不是如何欣賞自己的成績和名利，而是擔心功高招忌，恐遭狡兔死、走狗烹的厄運。他想起了在中國曆史上曾有許多身居權要的重臣，因為不懂得功成身退而身敗名裂。曾國藩決心以曆史作鏡子，在功成名就之時，妥籌保身良策。曾國藩思來想去，采取了如下行動：
一方麵寫信給其弟曾國荃，囑勸其將來遇有機緣，盡快抽身引退，方可“善始善終，免蹈大戾”。曾國藩叫弟弟認真回憶一下湘軍攻陷天京後是如何渡過一次政治危機的。湘軍進了天京城後，大肆洗劫，城內金銀財寶，其弟曾國荃搶得最多。左宗棠等人據此曾上奏彈劾曾國藩兄弟吞沒財寶罪，清廷本想追查，但曾國藩很知趣，進城後，怕功高震主，樹大招風，急辦了三件事：一是蓋貢院，當年就舉行分試，提拔江南人士；二是建造南京旗兵營房，請北京的閑散旗兵南來駐防，並發給全餉；三是裁撤湘軍4萬人，以示自己並不是在謀取權勢。這三件事一辦，立即緩和了多方麵矛盾，原來準備彈劾他的人都不上奏彈劾了，清廷也隻好不再追究。這就是曾國藩叫弟弟認真回憶的那次政治危機。現在他寫信給弟弟，要他盡快抽身引退，也是“以退為進”的上上之策。
另一方麵他上折給清廷，說湘軍成立和打仗的時間很長了，難免沾染上舊軍隊的惡習，且無昔日之生氣，奏請將自己一手編練的湘軍裁汰遣散。曾國藩想以此來向皇帝和朝廷表示：我曾某人無意擁軍，不是個牟私利的野心家，是位忠於清廷的衛士。曾國藩的考慮是很周到的，他在奏折中雖然請求遣散湘軍，但對他個人的去留問題卻隻字不提。因為他知道，如果自己在奏折中說要求留在朝廷效力，必將有貪權戀棧之疑；如果在奏折中明確請求解職而回歸故裏，那麼會產生多方麵的猜疑，既有可能給清廷留下他不願繼續為朝廷效力盡忠的印象，同時也有可能被許多湘軍將領奉為領袖而招致清廷猜忌。
其實，太平天國被鎮壓下去之後，清廷就準備解決曾國藩的問題。因為他擁有朝廷不能調動的那麼強大的一支軍隊，對清廷是一個潛在威脅。清廷的大臣們是不會放過這個問題的。如果完全按照清廷的辦法去解決，不僅湘軍保不住，曾國藩的地位肯定也保不住。
正在朝廷琢磨如何解決這個問題時，曾國藩的主動請求，正中統治者的下懷，於是下令遣散了大部分湘軍。由於這個問題是曾國藩主動提出來的，因此在對待曾國藩個人時，仍然委任他為清政府的兩江總督之職。這其實也正是曾國藩自己要達到的目的。
從政之道
宰相退隱保命
在中國古代，仕途不是一條平坦的大道，它充滿了荊棘和險惡，因此很少有人能在政治舞台上終其一生。明智者，會審時度勢，急流勇退，因此他們得以安度晚年；愚鈍者，當退不退，垂死掙紮，或者身敗名裂，或者身首異處，下場極其慘烈。
唐朝玄宗時，有一名宰相叫蕭嵩，他為人正直，為官清廉，深受玄宗賞識。這使他遭到另一名宰相的妒忌，因此處處受到排擠。他勢單力薄，無力反擊，隻好上書皇帝，請求還鄉。
玄宗很納悶，問他：“我並沒有厭倦你，你為什麼要還鄉？”
蕭嵩說：“我蒙受陛下的厚恩，任職宰相，富貴已到了極點，趁陛下還未厭倦我的時候，我尚能平安退下。等到陛下一旦厭倦我了，我的頭顱都難以保住，到時恐怕回都回不去了。”玄宗聽他言之有理，於是答應了他的請求。
他回鄉後，修園造林、修身養性，得以安度晚年。如果不知及時引退，在險惡的政治環境中，他的性命也會難以保全。