然而，用現在的說法就是“理想很豐滿，現實很骨感”，由於長期沒有掌握地方實權，整頓吏治根本無法付諸實施，眼見挽救大清王朝的做法不能實現，曾國藩很是失望。但即使這樣，他還是說：“整頓吏治最忌諱的，是不分青紅皂白，讓有德行的人寒心，不肖之人無所畏懼。如果這樣，那麼就會百病叢生，不可救藥。”
整頓吏治，實質上也是曾國藩實施以嚴馭人、物盡其用的馭人策略，不過因為牽扯到的官吏太多，他無法實施而已。
【延伸閱讀·曾國藩箴言】
帶兵之道，用恩莫如用仁，用威莫如用禮。仁者，所謂欲立立人、欲達達人是也。待允兵如待子弟之心，常望其發達，望其成立，則人知恩矣。禮者，所謂無眾寡、無小大、無敢慢，泰而不驕也。正其衣冠，尊其瞻視，儼然人望而畏之，威而不猛也。持之以敬，臨之以莊，無形無聲之際，長有凜然難犯之象，則人知威矣。守斯二者，雖蠻豹之邦行矣，何兵之不可治哉！
【譯文】
帶兵的原則，用施恩的辦法不如用仁恕之道，用立威的辦法不如用禮儀之理。所謂仁恕之道，也就是孔子所說的“己欲立而立人，已欲達而達人”。對待士兵，就像對待自己的子弟一樣，一心希望他們能夠發達，希望他們能夠成事立人，這樣他們自然就會對你感恩戴德。所謂禮儀之理，也就是無論人數多還是少，無論年輩官職大還是小，都不能輕慢無力，做到“泰而不驕”。正如孔子所說，君子應該端正衣冠，視聽嚴肅，舉止莊嚴，讓人望而生畏，但又要做到威嚴而不凶暴。如果立身處事恭敬有禮，對待部下莊重嚴肅，那就會在無形之中，無聲之時，常有一種凜然不可侵犯的氣度，這樣部下就能感受到你的威嚴了。如果能堅守這兩條原則，就是蠻荒落後的地區都能行之有效，還有什麼樣的軍隊治理不好呢？
【點評】
曾國藩的為官之道是知道怎樣處理好上下級的關係，他知道上級和下級不可能是平等的，重要的是如何從中找到一個平衡的中間點，“執其兩端，用其中”。
中國古代的軍事思想非常重視將與兵之間的關係，強調為將之人要關愛下屬，才能贏得下屬的尊重。《左傳》中記載了這樣一則事跡：鄭國派子濯孺子去攻打魏國，失敗之後，子濯孺子便逃跑，魏國派庾公之斯來追殺他。子濯孺子的舊疾發作無法拉弓射箭，自認為今天難逃一死。他問駕車的人說：“是誰來追擊我？”車夫回答是庾公之斯。誰知聽到答案後子濯孺子卻笑著說道：“看來今天我死不了啦。”車夫聽後不免疑惑，便問道：“庾公之斯可是衛國大名鼎鼎的射手，魏國派他出麵追您，您怎麼反而說您死不了了呢？”子濯孺子答道：“那是因為庾公之斯是跟從尹公之他學的射箭，而尹公之他又是跟從我學的射箭。尹公之他是一個道德正派之人，所以他所收的學生肯定也是正派之人。”話音剛落庾公之斯就追了上來，他看到子濯孺子端坐不動便問道：“老師為什麼不舉起弓箭呢？”子濯孺子說：“我舊疾複發拿不了弓。”庾公之斯說道：“我是跟尹公之他學習的射箭，尹公之他又是跟您學習的射箭，我實在不忍心用您教的技術來對付您。但今天是國家派我來追殺您，我也不能違背。”於是庾公之斯將箭抽出來，在車輪上敲擊了幾下，將箭頭敲掉，用這些沒有箭頭的箭向子濯孺子連射四箭便轉身回去。
《史記·孫子吳起列傳》記載了吳起愛兵的故事：
戰國時吳起因為善於用兵並且屢建戰功，被魏文侯任命為西河守。一年吳起率領魏軍向中山國進軍，途中有一個年輕的士兵身上長了毒瘡，疼痛難忍，無法行走，滿地打滾。吳起見狀心中很是焦急，他聽說如果毒瘡裏膿血排不出來不但病治不好甚至可能危及生命。行軍途中，不可能有很好的醫療衛生條件，將膿血排出的唯一方法就是用嘴去吸。為了挽救這名年輕士兵，吳起不顧毒瘡又髒又臭，親自用嘴幫士兵將毒瘡中的膿血吸出。膿血排出後，這名士兵也慢慢地痊愈了。這名士兵在獲救之後感動得熱淚盈眶，其他士兵看到吳起的舉動後也都非常感動。吳起後來率兵討伐秦國時所向披靡，一連攻克數座城池，奪取了西河地區。此後他鎮守西河近三十年，率軍與諸侯大戰七十多次，其中有六十多次大獲全勝。吳起取得的勝利與他關愛士兵、治軍有方是分不開的。
這些故事都說明為將之人處理好與手下的關係是非常重要的，曾國藩便以諸葛亮作為自己學習的榜樣。曾國藩認為諸葛亮和自己都是帶兵打仗的讀書人，因此有很多相通之處。諸葛亮在《將苑》中寫道：“夫為將之道，軍井未汲，將不言渴；軍食未熟，將不言饑；軍火未燃，將不言寒；軍幕未施，將不言困；夏不操扇，雨不張蓋，與眾同也。”可見諸葛亮推崇的為將之道是為將之人要以身作則，與士兵享受平等的待遇，不可享有特權，這樣才能贏得下屬的尊敬，贏得他們的忠誠。當時確實有不少人將曾國藩比作清代的諸葛亮，曾國藩雖然不敢如此自比，但內心確實遵從的是諸葛亮“靜”、“愛”、“忍”的精神。曾國藩知道隻有關愛下屬才能得到下屬的尊重，並讓其在感激和忠誠中迸發頑強的勇氣。
在招募湘軍初期，曾國藩手中沒有一兵一卒，他能夠突破宗族和地域的傳統觀念，大量啟用來自全國各地的有識之士，吸引了許多人忠心耿耿地追隨他。塔齊布本為旗人，但曾國藩看重他忠勇雙全、吃苦耐勞，便將他招募到麾下。當曾國藩得知塔齊布被副將德清所猜忌並受到提督鮑起豹的羞辱時很是憤怒，為此專門向皇上遞上奏折，奏請彈劾德清，並舉薦塔齊布，說他“忠勇可用”。在一年多的時間裏，曾國藩數次舉薦塔齊布，從遊擊將軍、參將、副將一直到提督，使塔齊布成為湘軍的一名主要將領。塔齊布上任提督的那一天，士兵和民眾都聚攏來觀看，感歎曾國藩善於識人敢於用人。曾國藩對他這樣器重，塔齊布自然知恩圖報，盡心竭力為曾國藩出力，在他的率領下湘軍獲得了一場較大的勝利。特別是在湘潭、嶽州兩場關乎湘軍生死存亡的戰役中，塔齊布更是出生入死，立下了汗馬功勞。