首先是李元度應邀到來，還帶來了500名新募的平江勇。一個月後，李續賓、曾國葆、金鬆齡募來了湘鄉2500餘名湘丁。江忠濟、鄒壽璋從新寧、寶慶一帶也招來一千多人。同原來的湘勇合在一起，共有五千餘人。曾國藩把這五千餘人分為十營，開始訓練。
在曾國藩訓練團勇的同時，他發出的邀請函也都有了回複，郭嵩燾、劉蓉、陳士傑相繼到來。讓曾國藩更高興的是，郭嵩燾還募得湘陰軍餉20萬兩，不日即可彙到。他料到塔齊布在長沙不為鮑起豹所容，在軍官缺乏之時，寫信向駱秉章報告了團丁安置等情況，請他隨時派人來視察，順便向他借調塔齊布、楊載福、周鳳山三員撫標軍官，駱秉章一一同意。
曾國藩見文武齊備，同郭嵩燾、塔齊布、羅澤南、劉蓉、王錱、李元度、陳士傑、楊載福、周鳳山連續幾天商量了訓練辦法，製定了詳細的軍事條例。十營兵勇分別由塔齊布、羅澤南、王錱等人統帶。
衡州知府陸傳應見到曾國藩一下子招募了這麼多人馬，認為壯了衡州的聲威。曾國藩又常和他商量練勇事宜，於是對曾國藩滿投機緣。在初辦之時，由府庫存銀取出十萬兩，派為練勇之用，權作暫借，曾國藩自然喜悅。也算是出山以來遇上了真正支持他的人了。
於是，衡州城外那塊荒廢多年的演武場上，突然炮聲隆隆，煙塵滾滾，人喊馬嘶，殺聲陣陣。引得大人小孩前來圍觀，驚奇地看著這支從天而降的人馬。
書生治軍
諺語雲：秀才造反，三年不成。軍旅之事，自古就是“文人止步”的範圍。兵凶戰危，其間種種，與文人所學大都格格不入。文人於軍事，多是在筆墨之間表示向往之意。如唐代的邊塞詩人。即使憂愁多病之身的李賀，也喜歡寫“黑雲壓城城欲摧，甲光向日金麟開”這樣充滿戰場殺氣的文字表達對戰爭生活的向往。但是唐宋以來以文人出身而在軍事領域成功的並不多見，北宋的範仲淹、明朝的王陽明算是特例。在義理考據之學中消磨壯誌與才情的清朝士人，更是男兒血性漸凋落，“江湖俠骨已無多”，曾國藩、胡林翼等人能夠取得成功，並表現出卓爾不群的軍事才幹，也就無怪乎蔡鍔將軍發出感慨了。
曾國藩和湘軍從一開始就注定成為19世紀中國的一個最重要的文化現象——“投筆從戎”。這可以說是曆史上一支真正由讀書人領導的軍隊。這群讀書人挺身而出的最大使命，就是為了捍衛中國傳統文化。太平天國對於孔孟的態度，讓他們為之激憤，也正如此，讓他們立下了“上馬殺賊，下馬讀書”的誓言；至於效忠朝廷等，倒成了次要的目的。在曾國藩、胡林翼、左宗棠等一幫程朱理學的忠實信徒看來，太平天國所提倡的“拜上帝教”等，其實就是類似西方文化妖魔化的體現，是直接違背“天理”的行為，而他們有責任和義務在這樣的生死抉擇中承擔自己的使命。正因如此，這支頗有湖南士林風氣的儒生在後來艱苦卓絕的生死絕殺中，屢遭挫折而不餒，表現出了與叛道者誓不共存的殉道精神。
早在太平軍初過湖南時，曾國藩就編寫了通俗易懂的韻文，發動和鼓勵當地士人及百姓團結起來，共同對抗太平天國。這就是今天可以看到的《保守平安歌》三首：《莫逃走》、《要齊心》、《操武藝》。其中《操武藝》一首就詳細講解了冷兵器時代的訓練方法，也夾雜了一些簡單火器的使用。
與曾國藩一同起事、最初創建湘軍的，也都是一批典型的文人，確切地說是一批湘鄉文人。譚伯牛把其主要人物曾國藩、羅澤南、王錱稱為“三個性格迥異的湘鄉人”，另外一位重量級人物江忠源則是湖南新寧人。
除了“三個湘鄉人”，當時投在羅澤南門下的還有李續賓、李續宜、劉蓉、劉典、蔣益澧等人，後來都成為湘軍營壘中的傑出人物。
“書生治軍”是湘軍的一大特色。根據羅爾綱在《湘軍兵誌》中統計，湘軍將領中，書生出身的占到58%；在統領一路乃至多路人馬的高級將領中，這個比例更是達到了67%。