湘軍是清朝當時戰鬥力最強的軍隊，其紀律之嚴明，作戰之勇猛，遠勝於滿清的八旗和綠營軍，甚至連太平軍的精銳也無法出其左右，它成為清王朝能真正憑依的中流砥柱。那麼，曾國藩到底是用什麼方法來培養和訓練出的這樣一支強大的軍隊的呢？
一。為將之道，忠心為國
在考慮選將人選時，曾國藩總是將“忠義血性”放在第一位。他認為，選用具有忠義血性的人做將領，可以為整個軍隊起到表率作用，“以類相求，以氣相引，庶幾得一而可及其餘”，這樣便可以帶動全軍效忠封建統治。從而能夠使這支新興的軍隊——湘軍，不但具有鎮壓農民起義的能力，同時還具有“轉移世風”的政治功能。
曾國藩要求的忠義血性，就是湘軍將領能誓死效忠清王朝，自覺維護以三綱五常為根本的封建統治秩序，具有誓死與起義農民鬥爭到底的意誌。曾國藩說：“帶勇之人，第一要才堪治民，第二要不怕死，第三要不急名利，第四要耐受辛苦。”曾國藩還強調“廉明為用”。
“廉”，對於軍隊來說是極為敏感的問題。綠營將帥克扣軍餉，冒領缺額以自肥的現象，早已是公開的腐敗行徑。這深為士兵所不滿，嚴重影響了部隊的戰鬥力。那麼，曾國藩在新組建的軍隊上，要做到與眾不同，就必須在選將問題上高度重視，因為它直接關係到湘軍的戰鬥力。
“明”是指將領要做到賞罰分明，是非不淆。“人見其近，吾見其遠”，曰高明；“人見其粗，吾見其細”，曰精明。對於一般將領，要求其“精明”，而對於高級將領，則要求其必須“高明”，這樣才能夠具有遠見卓識。
曾國藩反複強調將領要具備“廉”、“明”的品質，這對於改善官、兵關係，提高戰鬥力，有著極為重要的作用。
曾國藩選取將領，專取“簡默樸實”之人。他對於綠營軍的官氣深重、投機取巧、迎合鑽營的腐敗風氣有著極為深刻的認識，深感積習難改。曾國藩從內心裏慨歎：即使“嶽王複生，或可換孱兵之筋骨；孔子複生，難遽變營伍之習氣”。為了從根本上解決這個問題，曾國藩規定，一方麵湘軍不用人營已久的綠營兵和守備以上官；另一方麵，他強調挑選將領要側重“純樸”。所謂純樸是指腳踏實地，無官氣，不浮誇虛飾。曾國藩經過遴選，將大量純樸之人委以重任，這對於提高湘軍戰鬥力和耐力極為有益。
“智略才識”是曾國藩選將的又一標準。他力求從書生中挑選人才，借助於他們的知書達理，努力克服綠營將領缺乏韜略的弊病。
另外，曾國藩還要求湘軍將領要具備“堅忍耐勞”的品質。
曾國藩識用鮑超，就是重“忠義血性”的例子。鮑超是今重慶奉節縣人，因家貧從軍，行伍出身。鹹豐三年，他人湘軍水師，任哨長。攻克武昌後，鮑超升為參將，改領陸軍，曾解曾國藩祁門之危，後官至湖南提督，乃曾國藩帳下一猛將。
鮑超不識文墨，僅認得自己的姓名，但作戰勇敢，帶兵有方，其憨直更令曾國藩喜愛。有一次，鮑超孤軍被困九江，欲派人向曾國藩求救，叫文書寫信，多時未完。鮑超心急，頓足道：“都什麼時候了，還咬文嚼字！”立即喊親兵拿來一幅白麻，自己握著手筆，於幅中大書一“鮑”字，四周作無數小圈圍繞，急急封函，派人送去。眾人不解其意，曾國藩大笑說：“老鮑又被圍矣！”於是派出援軍。
曾氏知鮑，鮑亦敬曾。有一次鮑超學寫“門”字，末筆沒有寫上鉤，別人告訴他還缺一鉤。鮑超指著廳中大門：“兩邊不都是直的嗎，哪裏有鉤？”正好牆上懸著曾國藩所贈對聯，中有“門”字。這人於是說：“曾大帥寫門字亦有鉤矣。”鮑超一看果然有鉤，於是跪地叩拜：“先生恕吾武人！”
曾國藩所信任、提拔的眾多人才之中，李鴻章被視為第一高足，而特別重用提拔，愛護備至。其主要原因就在於李鴻章在做事上有那麼一股韌勁，而且頗有才幹。李鴻章曾因為李元度丟失徽州一事說情惹惱了曾國藩，於是負氣離開祁門老營將近一年。這期間，顯要人物袁甲三、勝保、都興阿等人，都曾多次相邀，許以重保，但李鴻章不為所動，寧在江西賦閑，等待曾國藩心回意轉。最後，終於以其耿耿忠心和卓越才幹，重人曾幕。位綰四省軍政大權的曾國藩，對李鴻章“特加青睞，於政治軍務悉心訓諾，曲盡其熏陶之能事”，使李鴻章最終能青出於藍而勝於藍。
塔齊布是與羅澤南齊名的湘軍將領，姓托爾佳氏，滿洲鑲黃旗人。他平時有愚憨、無能之態，及到戰場，磨拳切齒，口流唾沫，一副好似要生吞對方的架勢，尤好單騎逼近敵壘偵視虛實，幾次陷入危境都轉危為安。
1853年，曾國藩在長沙開始練湘軍時，塔齊布還隻是個綠營守備，旋升用遊擊署參將，率兵與湘軍一起操練。曾國藩每次見他早早到場，“執旗指揮，雖甚雨，矗立無惰容”。曾國藩用戚繼光法訓練士卒，每當檢閱步卒，塔齊布都穿著短衣，腳插短刀侍立一旁。曾國藩對這位身材高大、麵帶赤紅的滿族軍官感到很奇怪，與之相談後，大為讚賞。又到他轄下的軍中檢查，見其訓練精嚴，且能團結士卒，曾國藩退而歎息——綠營兵中這樣的已是鳳毛麟角，因此更加敬佩塔齊布。但副將清德卻嫉恨塔齊布的才勇，常在提督鮑起豹的麵前講塔齊布的壞話，提督也不分青紅皂白，多次羞辱塔齊布。曾國藩於是上疏彈劾副將，舉薦塔齊布忠勇可大用，並說：若塔齊布以後“有臨陣退縮之事，即將微臣一並治罪”。塔齊布後來在湘潭之戰、嶽州之戰、小池口之戰和武昌之戰等湘軍前期幾次大的惡戰中，都表現了出眾的勇敢，尤其在被稱為“湘軍初興第一奇捷”的湘潭之戰中立下了大功而被提升為提督。而湘潭之戰在很大程度上是關係到湘軍能否崛起的一次關鍵戰役。
塔齊布以嚴於治軍並能與士卒同甘苦著稱。一次，德化縣令給這位大帥送了一張莞席，塔齊布說：“軍士皆臥草土，我睡莞席，豈能安枕？”立令退回。
1854年，鮑起豹被革職，塔齊布因收複湘潭有功被提升湖南提督。
二。下放權限，將盡其能
曾國藩認為，一個人要成就大業有所成就就必須得善於用人，該放權時便放權，該約束時堅決約束。
“擦亮眼睛，精選人選”、“以私誼形成維係湘軍中高層建築的紐帶”，對於曾國藩來說是他實施放權，讓將領充分發揮自身的才能，以促進湘軍整體建設的提高，也可以說是他實施這一策略的基礎。
曾國藩一改以往士兵歸屬國家所有的機製。一直以來，這種緊鎖兵權的做法便被曾國藩所鄙夷。雖然這種方法對於維護統治階級有著一定的益處，但帶來的弊病也是讓人望而生畏的。
比如，清朝的綠營兵規定：將領平時各住其府，有事便授予兵權，事情完了之後，便各回其府；而士兵則平時分駐在各地，當戰事發生之後，便臨時抽調在一起，共同迎敵。戰事結束之後，便回到自己的駐地。
這樣一來，就存在著兩種弊端：其一是士兵與將領，士兵與士兵之間隻有奉命應征的上下級之間的關係，別無私情，兵將之間難以形成一個整體，難以發揮出應有的力量。其二，對於將領來說，也難以在指揮士兵的時候使自己的能力充分發揮出來。這就是我們常說的國家軍隊，兵為國家之兵，將為國家之將，共同為朝廷負責。因此，他們就不能形成一個謀求某一派係或者家族利益的武裝集團，兵權也自然就確保無誤地掌握在了中央政府的手中，各地帶兵的將領絕不能占為己有。
但是，也正是這種原因、這種授權方式，大大地打擊了將領的積極性，使得他們在練兵的時候，馬馬虎虎不加注意，在對待士卒的時候也差強人意。因為，在他們看來，自己辛辛苦苦地練兵，將手下的士卒訓練成為戰無不勝的士卒，和自己又有多大的關係呢？到時候，自己訓練出來的士卒又不知道歸誰指揮，幫誰建功立業呢？
曾國藩就是從人性的優缺點之中看清了問題的關鍵，大膽地提出了兵役製度的改革。將世兵製變為募兵製，並規定一軍之權交付於統領，大帥不可遙製；一營之權交付於營官，統領不得遙製。於是各層士兵層層招募，進退棄取皆由長官決定，統營官、哨官遂為大帥的私屬，士兵也成了營哨官的私兵。“兵員自募，權歸主將”，將軍隊的組建、人事升遷等所有的權力，完全地給予湘軍之中的中高層將領。
可能有的人會存在疑問，這樣地將權力下放給下屬，特別是那些有著一定能力的下屬，雖然能夠讓他們的能力充分地發揮出來，但是“人心隔肚皮”，誰又能夠保證他們在自己的力量壯大了之後，不心存想擺脫曾國藩的指揮“自立門戶”的念頭呢？
其實，曾國藩當時也是想到了這一點的。為了防止這樣的情況發生，曾國藩采用什麼方式來製約湘軍之中的中高層將領呢？
首先，曾國藩對於每一個營都有著明確的人數限製。他的這一做法，就是通過規定的編製，來限製心存異心的湘軍將領，以免他們心存驕橫自滿之心，而走向分裂湘軍之路。其次，曾國藩對於每一個營官所招募來的新士卒，堅決地要求必須經過兩個月的訓練，才能開赴戰場。為什麼曾國藩如此地著重於對新招募來的士卒訓練呢？其目的還是為了保障自己對於湘軍保持有效的控製，對湘軍有著絕對的指揮權，保證湘軍的整體團結統一。曾國藩在練兵和訓兵的時候，不僅重視對士卒作戰能力的操練，更加著重於對士卒忠義血性思想方麵的教育，要求對新招募來的士卒，進行為期兩個月的訓練，其作用也是不言而喻的。
然而，曾國藩雖然采用了種種策略，但還是沒有完全避免將領自立門戶。導致湘軍分裂的事情發生。其中，最典型的例子就是曾國藩與王鑫之間的事情。
王鑫是湘軍建軍之初的將領之一，深受曾國藩的賞識，一直準備重用他。然而，王鑫卻認為自己是最早帶湘勇之人，並不想接受曾國藩的約束，準備自己另立門戶，自己幹出一番事業來。在曾國藩將湘軍的營地遷回衡陽之後，讓王鑫回湘鄉去招募湘勇。當王鑫回到湘鄉之後，不但十分張揚，就像是朝廷大員出巡一樣，還在招募湘勇的時候，比曾國藩規定的人數要多，竟達三千之多。更讓曾國藩吃驚的是，當王鑫率領著這三千湘勇到達長沙之後，與湖南巡撫駱秉章交往過密，慢慢地顯露出了自成一軍，脫離曾國藩指揮的趨向。
在此情況下，曾國藩嚴格地要求王鑫除了仍然帶領一個營的湘勇之外，新招來的湘勇另外編成兩個營，由曾國藩另派人選為營官，但是，在這個時候，駱秉章卻不命令王鑫裁員。使得王鑫拒不聽命，自定營製，自派營官，在組織上、製度上獨立於曾國藩之外，走上了徹底決裂之路。
為了維護湘軍的整體統一，曾國藩向王鑫發出了最後通牒：要求王鑫隻能自帶一個營的湘勇，數量要嚴格地符合湘軍的營製，勇丁必須在經過兩個月的訓練之後才能開赴戰場。然而，王鑫卻認為自己和駱秉章走在一起，比跟著曾國藩要有前途，便毅然拒絕，真正走向了決裂境地。
在形勢已經無法挽回的時候，為了防止類似的事情再次出現，曾國藩隻好忍痛和王鑫一刀兩斷，將王鑫逐出了湘軍陣營，並且在給自己老師的信中對於王鑫大肆攻擊，使得吳文鎔不再調王鑫的軍隊北援，從此王鑫的軍隊也失去了進一步發展的機會。這樣一來，由於王鑫不能夠出省作戰，省內的財政又十分的困難，使得他不得不將三千四百人的軍隊減到兩千多。由此，對於後來出現的效仿者也起到一定的警戒作用。
此外，曾國藩還進一步加強了籠絡和控製部屬的策略，要求湘軍的將領在招募士兵的時候，必須嚴格地按照所規定的營規去辦，包括人員編製、操演訓練之法等，都必須依章行事，稍有越軌之處便會遭到革職或調離。
此舉並非曾國藩不允許下屬自立門戶，尋求發展。他的這一策略隻是在湘軍剛剛建立還沒有完全得以壯大和成熟的情況下，為了維護湘軍的整體統一而采取的策略。當湘軍具有了一定的勢力，具有良好的發展時機的時候，他便開始鼓勵手下有能力的人獨立門戶。這也正是曾國藩在建設湘軍，使得湘軍迅速發展的重要原因之一。
三。革新軍製，勤於練兵
曾國藩還在京城為官的時候，就看出綠營兵惰而驕，腐敗已甚，不經過一番大力裁汰和痛加訓練，是無法擔負起重任的。但當時他的建議沒有被清政府采納。
後來，經過一個時期的觀察和體驗，曾國藩對綠營兵有了進一步的認識。他認為造成綠營兵戰鬥力低下的主要原因在於調遣之法不善，將領事權不專。他指出，“當其調兵之時，東抽一百，西撥五十，或此兵而管以彼兮，或楚兮而轄以漠鎮”，兵將之間不是專有的關係，於是造成“卒與卒不習，將與將不和”，“勝則相忌，敗不相救”的風氣。
曾國藩還認為，用這種軍隊對付太平軍，“雖諸葛複起未必能滅此賊”。為此，曾國藩決心改弦更張，另建一支“誓不相棄之死黨”。
所以，在湘軍建立之始，他就注重加強兵士平時的軍事訓練，堅持從嚴要求，毫不鬆懈。他自己也經常到營中檢查，從一絲一毫的小處著手，要求士兵熟練掌握各種技藝。曾國藩極為重視湘軍的操練，認為這是保障其戰鬥力的根本。湘軍的操練主要分為兩項，技藝和陣法，“練技藝者，刀矛能保身，能刺人；槍、炮能命中，能及遠。練陣法者，進則同進，站則同站，登山不亂，越水不雜”。
為了提高湘軍士兵的作戰能力，熟悉陣法，曾國藩詳細製定了一套係統的課程，作為操練規則：
一、每逢三、六、九日午前，本部堂下教場，看試技藝，演陣法。
二、每逢一、四、七日午前，著本營官下教場演陣，並看抬槍、鳥槍打靶。
三、每逢二、八日午前，主要營官帶領赴城外近處跑坡、搶旗、跳坑。
四、每逢五、十日午前，即在營中演連環槍法。
五、每日午後，即在本營練習拳、棒、刀、矛、鈀、叉，一日不可間斷。
湘軍從上到下，有濃厚的儒教色彩，是一支有組織、有思想、有主義的軍隊，這跟曾國藩長期倡導和灌輸有極大的關係。
曾國藩在《原才論》中，論述過育才之法，提出“以己之所向，轉移習俗”，強調正人先正己，以身作則。他最恨官氣，因此就摒棄官府排場，力禁部下迎送虛文；他最恨懶惰，自己就首先做到放醒炮即起。
而對部下僚屬，小到個人治心治身，大到治軍治餉，無不以自己的信條、經驗嚴格要求，耐心訓導。在他給部下的批牘和書劄裏，訓導勸勉之詞甚多。曾國藩賦予他的幕府兩種職能，一是治事，一是育人，使幕府不僅是治事之所，也是培養人才的學校。曾國藩本人既是行政官長，也是業師；幕僚則既是工作人員，又是生童。
曾國藩在給朋友的信中描述他的幕府說：“此間尚無軍中積習，略似塾師約束，期共納於軌範耳。”他在給丁日昌的信中則談得更為具體：“局中各員譬猶弟子，閣下及藩譬猶塾師，勖之以學，教之以身，誡之以言，試之以文，考之以事，誘掖如父兄，董督如嚴師，數者缺一不可，乃不虛設此局。”這既是對江南製造局的要求，也是對整個幕府的要求。可以說這是他設立幕府的一項宗旨。為了使更多的人了解此意，自覺去做，他還把它寫成對聯，貼在總督衙門的府縣官廳上：雖賢哲難免過差，願諸君讜論忠言，常攻吾短；凡堂屬略同師弟，使僚友行修名立，方盡我心。
這裏既有紀律的約束，又有道德的說教，李鴻章深感“受益不盡”，從而逐漸養成了“每日起居飲食均有常度”的習慣，並獲得不少學問及經濟而又實用的東西。李鴻章後來回憶說，“在營中時，我老師總要和我輩同時吃飯；飯罷後，即圍坐談論，證經論史，娓娓不倦。都是於學問經濟有益實用的話。吃一頓飯，勝過上一堂課”。
古往今來，除了為數不多的雇傭軍，或以搶掠為生的武裝集團以金錢、美女為誘餌而組成以外，一支大的部隊在不忽視物質利益的前提下，通常總要有一個深入人心的明確的思想政治綱領作為團結的基礎，才能長期奮戰，不致成為一觸即潰的烏合之眾。曾國藩深知其中道理。因此，他攻擊太平天國“舉中國數千年禮義人倫、詩書典則，一旦掃地蕩盡”，以“赫然奮怒，以衛吾道”為圍剿太平軍的戰旗。撇開雙方政治上的是非不說，應該說這個綱領確實是維係湘淮軍長期奮戰的思想基礎。一部《曾胡治兵語錄》共十二章，前十章講的都是思想和政治。把思想和政治作為建軍的根本，十分值得關注。