李續賓趕到吉安的時候，羅澤南率部從固江開到，羅李兩營會師，於十月二十一日向湖南開拔。
駱秉章歡迎援贛軍回省，令李續賓將吃官糧的士卒增加到五百人。加上體製外的湘鄉勇，李續賓手下有了八百多人。羅澤南和李續賓兩部分別定名為“中營”和“右營”，還刊發了兩顆木印，官方化程度增高。從這時開始，湘鄉勇各營確定了軍旗的顏色，中營打紅旗，右營打白旗。
官方雖然還沒有為湘鄉勇製定軍餉製度，但李續賓的部隊待遇還算不錯。當時糧價便宜，士卒每天得到一錢銀子就會樂得合不攏嘴。湘軍各營發放餉銀都縮水，隻有李續賓按照湘平發足軍餉。所謂“湘平”，是湘潭縣所用的秤。用這種秤來稱量銀子，比國庫的秤略少一點，每一兩約合庫平八錢一分一厘七毫。湘潭商務殷盛，常有汽船往還漢口；鹹豐以來，將卒多為湖南人，營中稱量銀子的秤都是湘潭秤，所以推行於湖南全省及長江流域的大商埠。李續賓能按湘平足額發放軍餉，已是非常難得了。
李續賓與士卒同甘共苦，偶然遇到糧食匱乏，士兵每天隻發四兩米，李續賓也隻領四兩。他跟最下級的士兵打成一片，同臥同起。士兵的家人向李續賓家打聽自家子弟的情況，李續賓收到家信後，一定會把那人叫來，將家裏的情況告訴他。李續賓寫家信時，也會把該士兵的情況寫上，請家人轉告他的父兄。士卒感恩戴德，願意為他效死，不敢犯禁，右營因此而獨享盛名。當時辰勇和楚勇自相仇殺，但他們都欽佩李續賓的品德和威望，不會攻擊湘鄉勇。
這時的湘鄉勇接受駱秉章和曾國藩的雙重領導。駱秉章在長沙給他們定編發餉，曾國藩則從衡州對他們發號施令。湘鄉勇回省後，當即接到曾國藩從衡州發來的命令：永興會黨一千餘人搶掠縣城，駐紮在油榨墟，令你部往剿。羅澤南即日馳赴永興，製訂作戰方案。他分派永興的鄉勇攻打圩北，自己率部直搗圩西和圩南。三麵夾攻，攻破敵壘，斬殺大批敵軍，將永興平定。李續賓在十一月份打了十一仗，隨後與羅澤南一起駐軍衡州。
羅澤南始終沒有忘記自己是一名學者，一位老師，非常關心教育事業。他一邊搜捕油榨墟的會軍殘餘，一邊集資修複石鼓書院。江西巡撫張芾上奏羅澤南平定安福的功勞，保升他為直隸州知州，與劉長佑一同留江西補用。李續賓得旨以府經曆補用。
大約在羅澤南和李續賓征戰永興的同時，周鳳山和曾國葆也奉命鎮壓常寧的會黨，彭玉麟跟隨部隊前往。官軍很快收複了縣城。十一月十一日，會軍逃到羊泉洞，曾國藩又調張榮組和儲玫躬前往增援。會軍三天後進占嘉禾，然後攻打藍山，推進至道州的四庵橋。曾國藩添調鄒壽璋和魏崇德增援。官軍各營與會軍作戰均有斬獲，儲玫躬戰功最大。
此仗結束，曾國葆來見大哥，彙報戰鬥經過。他特別推重彭玉麟和楊載福，說他們“才當任一軍，不宜屈為幫辦”。這時彭玉麟隻是一介生員，楊載福前因守住了湘陰有功，已被提拔為千總，曾國藩決定重用二人，令他們分頭招募水勇，各自率領一營。彭玉麟和楊載福從此成為湘軍水師將領。
江忠源身在廬州，迫切需要湖南的援助。這時禮部左侍郎、光祿寺卿宋晉向鹹豐提議，呂賢基死了，江忠源病了，曾國藩卻擁有實力，可以依靠，應當令他挑選練勇，乘船順流東下，與江忠源水陸夾擊，殲滅安徽沿江敵船，則會令金陵、揚州、鎮江的敵軍落膽，向榮和琦善就能將敵軍一舉掃平。
曾國藩奉到上諭，皇上令他率部乘船東下，與江忠源合作，迅速壓製安徽的太平軍。此時安徽的局麵比任何省份都要糟糕，鹹豐指出，不利的情況都是由於長江上麵沒有官軍水師戰船攔截追剿，聽憑敵軍往來自如。既然曾國藩也懂得水師的重要性，就應該火速建立水師，親自統領，去拯救安徽的危局。