裁兵經費籌妥了，裁兵辦法擬好了，隻等勝利的蒞臨。同治三年六月十六日攻下南京，取得勝利，七月初旬開始裁兵，一月之間，首先裁去二萬五千人，隨後亦略有裁遣。人說招兵容易裁兵難，以曾國藩看來，因為事事有計劃、有準備，也就變成招兵容易裁兵更容易了。這也是強人畢生大事之一。
究竟湘軍共有多少？我們無法明白。我們隻知道：湘軍初次出擊的人數，隻有一萬七千人。我們隻知道：鹹豐七八年時，湘軍主力，仍然隻有一萬多人。直到安慶之戰發生，才增加一萬多人，約計三萬人左右。同治元年圍攻南京的時候，連新招募的、新投誠的一起計算，最高估計，不會超過六萬人。
裁去多少？曾國藩不是傻瓜，不會一次裁光。最高的估計，大概裁去二分之一，約三萬人左右，剩下來未裁的，還有三萬人。這三萬人，一部分由曾國荃統率。光緒十三年，我們還可見到曾國荃有關湘軍的奏議。一部分由左宗棠帶往西北去了。一部分水師由黃翼升統之。其他中下級軍官，轉入淮軍去了。
實際上並未大裁特裁，清廷如果逼得太急了，曾國藩的手下有的是兵，要蠻幹，大家蠻幹，要曾國藩做年羹堯，他是不幹的。
從另一角度看，曾國藩是一個讀通經史之人，他素抱”花未全開月未圓“主義，萬事不要做到盡頭，適可而止。
曾國藩決心裁兵，實際是由其忠君的根本思想所導致的。
曆代的儒家，很少推重莊子的，可是曾國藩把莊子捧為聖哲，列入聖哲三十二人之林。他九弟生日時，曾國藩作詩贈之：
左列鍾銘右謗書，人間隨處有乘除；
低頭一拜屠羊說，萬事浮雲過太虛。
他知道人間隨時隨地，有乘有除；他敬佩屠羊說是一個功高而不爭功的人，可謂讀莊子有得。
7.惟帝命是從，一顆忠心隻為國
曾國藩的心目之中，決無”華夏之防“的種族觀念，他所有的隻是”地維所賴以立，天柱所賴以尊“的”君，天也“偏狹國家思想，他一味”效勞朝廷，忠君報清“,不過是為了爭取異族皇帝賜給他高官厚爵，地位和利益而已。湘軍成立之初，原係保衛地方性質，並無出境作戰計劃。後以清軍江南大營和江北大營被太平軍擊潰，清廷不得已，乃命曾國藩率軍援鄂，可是曾國藩以準備未妥，遲遲不出兵，清廷多少有一點不滿之意，及湘軍克複武漢，便有人向鹹豐進言，去了一個洪秀全，來了一個曾國藩。因此清廷便收回成命，另易他人。這不但使曾國藩麵子難堪，且使湘軍將領，無不憤慨，湘軍造反的原因，實基於此。
曾國藩攻克金陵，平定太平軍以後，原來鹹豐帝臨死的遺言，克複金陵者王，可是事實上，僅僅給以一個一等侯。曾國藩幼女曾紀芬曾言，家鄉一聞此訊，多說侯爵太細。太細即太小之意，不滿之辭，已露言表。
狡兔死，走狗烹；飛鳥盡，良弓藏。這幾乎是過去曆代戰爭結束後的必有現象。太平軍完了，便有許多禦用官吏，便乘機製造罪狀，打擊湘軍，而且想將湘軍將領，一網打盡。編修蔡祺奏劾曾國藩、曾國荃破壞紀綱；監察禦史朱鎮，奏劾湘軍紀律廢弛，並列舉湘軍將領罪狀。其他如勝保、穆彰阿之流，更是散布謠言，無的放矢。清廷乃下詔命，要曾國藩和各級將領，從速辦理軍費報銷，這便是湘軍造反運動的近因。
打了十多年爛仗，花了許多老百姓的錢，卻要辦理軍費報銷，這不是十二道金牌是什麼？這一詔命一到，曾國荃、彭玉麟、左宗棠、鮑超等四人，便秘密活動要擁戴曾國藩出麵，反抗清廷。
當曾國藩在南京城破，太平天國覆亡，進入殘破不堪的石頭城後，全城餘燼未息，頹垣敗瓦，滿目淒愴，不忍卒睹。有一天晚上，大約十一點鍾，曾國藩親審李秀成後，進入臥室小休，湘軍的高級將領約有三十餘人忽然來集大廳，請見大帥，中軍向曾國藩報告，曾國藩即問：九帥有沒有來？（九帥即是曾國藩的九弟曾國荃）中軍複以未見九帥，曾國藩即傳令召曾國荃。曾國荃是攻破南京的主將，這天剛好生病，可是主帥召喚，也隻好抱病來見。曾國藩聽見曾國荃已到，才整裝步入大廳，眾將肅立，曾國藩態度很嚴肅，令大家就坐，也不問眾將來意。眾將見主帥表情如此，也不敢出聲。如此相對片刻，曾國藩乃命巡弁取紙筆，巡弁進以簿書紙，曾國藩命換大紅石垂箋，就案揮筆，寫了一副對聯，擲筆起，一語不發，從容退入後室。眾將莫之所措，屏息良久，曾國荃乃趨至書案前，見曾國藩寫了十四個大字，分為兩行上下聯，聯說：