曾國藩為了表明自己敢作敢當，所有布告都署上自己的姓名。他接連給各地下發文件，要求各級政府招賢納才。各地的知府和知縣一下子適應不了這種雷厲風行的作風，但畏懼心理令他們努力地改變風格。見到曾國藩與鄉民秀才平等相處，基層官員稍有悔悟，不敢高高在上，脫離民眾。他們開始做一些調研，摸清本地的民生疾苦，向上級報告興利除弊的情況。
曾國藩廣泛聽取民眾的呼聲，感動了民間的有識之士，一些紳士找他討論行政事務，對恢複治安提出了行之有效的見解。湖南的社會秩序很快就有了好轉。
駱秉章添柴加火
戰火燒到湖北以後，湖南暫無大的戰事。代理巡撫潘鐸立足於他的本位思考，不願意多養軍隊，多供軍餉，奏請朝廷撤兵二千多人，隻留下一千七百名沅州兵防衛本省。省城所招湘鄉練勇一千多人，潘鐸也要撤銷，令湘勇還鄉。
潘鐸的做法阻礙了湘軍的建設。曾國藩要依靠鄉勇的武力整頓全省的治安，與潘鐸的想法背道而馳。好在曾國藩已經調取三百多人，以王珍統領，在衡州和永州各地剿匪。
潘鐸的裁軍迫使曾國藩走精兵路線。兵員不足，更要重視訓練。這是曾國藩對湘軍建設的重大貢獻。他從王珍和李續賓創辦鄉勇的實踐中吸取了經驗，決定狠抓軍訓。在潘鐸的大刀闊斧之下，隻有少數團勇留在長沙，曾國藩要求他們每天操練。曾國藩還向正規軍伸手，命令綠營的城防部隊每月六次集合操練。
軍訓帶來了實效，團勇的戰鬥力大大增強，實力超過綠營，隨時可以投入實戰。曾國藩每次接到州縣報警，立即派出幾百名團勇。部隊輕裝出發，路上不許停留，所到之處，事端立即平息。團勇不但鎮壓會黨，還就地逮捕不法官吏。
曾國藩要抓正規軍的訓練，需要有軍官配合。大多數綠營軍官對曾國藩不買賬，隻有塔齊布支持他的工作，服從他的號令。每當曾國藩檢閱部隊，他總是腳踏草鞋，帶刀侍衛，勤勉有加。曾國藩記得，左宗棠和張亮基曾向他推薦此人。
曾國藩與塔齊布交談，發現這個武夫雖然官職不高，卻是見識不凡。考試他所帶的兵勇，基本上訓練有素。他想，左季高和張石卿所言果然不虛。通過了解，他得知塔齊布是滿洲鑲黃旗人，此年三十六歲，官職為五品守備，代理長沙營都司。他在廣西接受過戰火的洗禮，善於識拔優秀的士卒，鮑超就是被他延攬到旗下的。
曾國藩為了進一步考驗他的能耐，令他密捕幾名巨盜，塔齊布順利完成了任務。
潘鐸沒有裁撤的團勇部隊中有一支幾百人的辰州勇，帶隊軍官是千總諸殿元。這支鄉勇在操練中表現出色，曾國藩對諸殿元另眼相看。他令塔齊布兼管辰勇，與湘鄉勇會同操練。這支部隊在兩名優秀軍官的帶領下，練得膽技精強，成為曾國藩手下的勁旅。
潘鐸在三月份發了一個指示，為湘鄉勇重新組建提供了機會。朱孫貽奉巡撫之令，派湘鄉團勇捕誅本地會黨。他趁機將本縣的團勇增加到六百人，紳士們共推羅澤南擔任總指揮。李續賓增募三百人，率部駐紮雲門寺，打算前往衡州和耒陽之間阻擊會黨，後來沒有成行。
在湘鄉的團練元老中，有人從一開始就對曾國藩不感冒。大家聚在一起，談到曾侍郎時，王珍說道：“此人京官做久了，動不動就發公文，打官腔，真是看不慣！跟他交談，話不投機半句多。”
李續賓把王珍拉到一邊，說：“部隊必須團結，才能打勝仗，哪裏有工夫計較這些小事？何況曾公是朝廷的欽差，單憑這一點，我們也該尊重他。”
湘鄉勇此時有了九百人的隊伍，每天每人發一升米和二十錢的柴費菜錢。官府負擔不起這項開支，李續賓就從自家拿錢，由父親李登勝與王宗麓提供。