當然，曾國藩對人才的培養也並不總是和顏悅色、如兄如長，外鬆內緊的“嚴繩”也是他在教育中的重要法門。他在《人才論》中，即強調正人先正己，以身作則。他最恨身邊人身上有官氣，認為即使是有“鄉氣”，也不可有“官氣”。於是他力避官場排場，禁絕部屬迎送虛文。
曾國藩幕府龐大，其職能一是治事，二則在於育人，他一心要將自己的幕府變成培養人才的學校。曾國藩本人既是軍政官長，也是業師；幕僚則既是公務員，又是學生。曾國藩就曾給朋友描述過自己的幕府，說：“此間尚無軍中積習，略似塾師的約束，期共納於軌範耳”。給丁日昌的信中則說：“局中各員譬猶弟子，閣下及藩可譬猶墊師，勖之以學，教之以身，誡之以言，試之以文，考之以事，誘掖如父兄，董督如嚴師，數者缺一不可，乃不虛設此局。”這裏所說的既是對丁日昌所部江南製造局的要求，也是對自己的整個幕府的理念。
曾國藩為培養人才可謂煞費苦心，而他的心血確實也沒有白費，他一生的事業正是靠這些人才發展壯大起來的。而在這些人才中，曾國藩花費心血最多、提拔最力、成長最快、也最能克紹曾門衣缽的，就是後來的“中堂大人”李鴻章。
1861年，太平軍在江浙進犯，清廷的財賦重地岌岌可危，尤其是上海麵臨被占領的威脅。從清廷到江浙地方官紳，都向曾國藩發出派兵解援的籲請。曾國藩認識到這是擴大湘軍勢力的極好時機，但不能將精銳派到上海，而隻能另辟蹊徑，再練一支軍隊。
當時曾國藩考慮這個人選時，主要從以下幾點出發：湘軍嫡係，能夠勝任此項事情；對湘軍、對自己都大有益處，斷不會成為掘墓人。
經過再三權衡，他舉薦李鴻章可擔此大任。1862年2月28日，曾國藩與李鴻章談了個通宵，囑咐他先把兵練好，不要急於出戰，吏治、詳務可以緩辦。他知道在封建的中國“有軍則有權”的道理，告誡李鴻章要把軍事放在首位，在他看來，隻有練就精兵、學會作戰、才能站穩腳跟，飛黃騰達，否則將一事無成，甚至有喪失生命的危險。他還看出李鴻章心高氣盛、急躁、傲慢、任性，這些致命弱點如不改正，後患無窮。因而曾國藩“以深沉二字”相勸，其他好友也紛紛提出忠告。李續宜“以從客二離”規之，沈葆禎、李桓“又以勿急相戒”。李鴻章深受教益，在給李桓的複信中表示：“手諭誨愛諄切，感佩無量。鴻章素性激直，從事師友賢豪間，皆深知其戇而曲諒之。自茲以往，不欲蹈習官樣，又未便率性而行。”對於師友們的勸誡，“當奉為枕中秘”。
李鴻章到上海後，處處以弱軍自居，他打定主意：即使朝廷下十二道詔書都不出兵，因為軍隊是他的血本。不久，慈禧又施加壓力，聲稱如果再不出兵打太平軍，就將他調離。李鴻章仍不回話。清廷知道隻有曾國藩能調動李，於是令曾國藩勸李出兵作戰。李鴻章特向老師訴苦，曾國藩知道個中奧秘，開始支持他按兵不動，待清廷令他勸李出兵的諭旨下發後，曾國藩又出一招，讓李“勉為應允”“會防不會剿”，即與外國勢力一同防守上海，但不參加共同對抗太平軍的會戰。因為曾、李都清楚，自己不能被當槍使，把本錢送給別人花。李鴻章經過多次試探，終於看準洋人的用意是拿他的軍隊當替死鬼，他不但佩服老師的眼力，更堅定了不出兵的信念。自此後，李鴻章處處秉承老師的旨意辦事，在上海六個多月間，李鴻章寫給曾國藩的信即有44封之多。他把曾比作佛祖釋伽牟尼，而自己是佛門傳徒習教之人。他常事事請命、時時請命，有何創舉總拜求曾國藩創首，有何大政總拜求曾國藩主持。尤其是洋務大政，李鴻章推曾國藩為領頭，從而掀起極大的聲勢。曾國藩得虛譽分擔風險，李鴻章則由此實力大增。