曾國藩到達天京以後，七月初四日“定議裁撤湘勇”。在七月初七日的奏折中，曾國藩向清朝廷表示：“臣統軍太多，即裁撤三四萬人，以節靡費。”從當時的材料來看，曾國藩裁撤湘軍的表麵原因是湘軍已成“強弩之末，銳氣全消”，而時人卻認為全是為了避鋒芒的借口。時人王定安就說過：“曾國藩謙退，以大功不易居，力言湘軍暮氣不可複用，主用淮軍。以後倚淮軍以平撚。然國藩之言，以避權勢，保令名。其後左宗棠、劉錦棠平定關外盜寇，威西域，席寶田征苗定黔中，王德榜與法朗西(法蘭西)戰越南，皆用湘軍，暮氣之說，庸足為定論乎？吾故曰，國藩之暮氣，謙也。”
當時曾國藩所統湘軍約計十二萬餘人，但左係湘軍進入浙江以後，已成獨立狀態，早在攻陷天京以前，江忠義、席寶田兩軍一萬人已調到江西，歸沈葆楨統轄，鮑超、周寬世兩軍兩萬餘人赴援江西以後，隨即也成為沈葆楨的麾下人馬，剩下的便隻有曾國荃統率的五萬人，而這些人也正是清政府最為擔心的。於是曾國藩從這五萬人開始進行裁撤。
曾國藩留張詩日等一萬餘人防守江寧，五萬人由劉連捷、朱洪章、朱南桂率領，至皖南、皖北作為巡防軍隊，裁撤了助攻天京的蕭衍慶部(李續宜舊部)近萬人和韋俊的兩千五百餘人。同治四年(1865年)正月，又裁撤防軍以及十六營八千人，但隻有張詩日一營願隨曾國藩北上，其餘都不願北上，於是曾國藩又裁撤了其餘的七千五百人。之後，又陸續裁了劉連捷、朱洪章、朱南桂三軍。此時，曾國藩能夠調動的部隊隻剩下張詩日一營和劉鬆山老湘營六千人。
在裁撤湘軍的同時，曾國藩還奏請曾國荃因病開缺，回籍調養。此時，曾國荃因攻陷天京的所作所為，一時間已成為眾矢之的。同時，清廷對他也最為擔心，唯恐他登高一呼，從者雲集，所以既想讓他早離軍營而又不想讓他赴浙江巡撫任。無奈，曾國藩隻好以其病情嚴重，奏請回鄉調理。很快清廷便批準了曾國藩所奏，並賞給曾國荃人參六兩，以示慰藉。而曾國荃卻大惑不解，憤憤不平溢於言表，甚至在眾人麵前大放厥詞以發泄其不平，使曾國藩十分難堪。曾國藩回憶說：“三年秋，吾進此城行署之日，舍弟甫解浙撫行，不平見於辭色。時會者盈庭，吾時無地置麵目。”
在曾國荃四十二歲生日那天，曾國藩還特意為他創作了七絕十二首以示祝壽。曾國藩的至誠話語，感動得曾國荃熱淚盈眶，竟放聲慟哭，以宣泄心中的抑鬱之氣。隨後，曾國荃返回家鄉，但怨氣難消，以致大病一場，從此，辭謝一切所任，直至同治五年(1866年)春，清廷命其任湖北巡撫，他才前往上任。
同治九年(1870年)五月，曾國藩作了一副對聯：“戰戰兢兢，即生時不忘地獄；坦坦蕩蕩，雖逆境亦暢天懷。”曾國藩藏鋒的“龍蛇伸屈之道”，是一種自我保護、實現自我價值的生存之道。實際上藏鋒露拙與鋒芒畢露，是兩種截然相反的處世方式。鋒芒引申指人顯露在外的才幹。有才幹本是好事，是事業成功的基礎，在恰當的場合顯露出來是十分必要的，但是帶刺的玫瑰最容易傷人，也會刺傷自己。露才一定要適時、適當。時時處處才華畢現隻會招致嫉恨和打擊，導致做人及事業的失敗。有誌於做大事的人，可能自認為才分很高，但切記要含而不露。