曾國藩到長沙的第一步，就是把他的老鄉羅澤南拉了過來。對於這個羅澤南，任何談論曾國藩的人都不可回避地要談及他。曾國藩為什麼會看中羅澤南？根本原因就在於此時的羅澤南，手裏有一支千餘人的武裝。在老家時，曾國藩曾與他交談過，善於識人的曾國藩之所以應允墨絰（dié）出山，一個重要原因就是因為有了羅澤南。
羅澤南比曾國藩還要大三四歲。他字仲嶽，號梅泉，現今湖南雙峰縣石牛鄉人。因其家住在羅山山麓，故又稱之為羅山。
和當時許多其他湖南士人不一樣的地方，羅澤南的家境可能是最差的了。一些史誌上都記載，羅澤南的家境情況是“家酷貧”“大父拱詩屢典衣市米，節縮於家，專餉於塾”。這是什麼意思呢？就是到了要靠典當家裏的衣服來買米的地步，節衣縮食，為的是什麼？是供羅澤南讀書。
羅澤南讀書用兩個字概括就是“苦讀”。夜裏沒有煤油燈，他就把書拿到月光底下去讀，累了就地露宿。十九歲那年，母親去世，再過一年，祖父、兄嫂相繼死去；二十九歲時，長子、次子、三子先後死去。他屢遭喪親的打擊，十年間死了十一個親人。道光十五年，大旱，羅澤南考試回來，到家已是半夜，正要敲門，聽到妻子在放聲大哭，一問方知三個兒子都餓死了，隻有詩聖杜甫有過類似的經曆，恐怕再找不出第二個比他更命苦的士子了，但越是受到打擊，羅澤南的心更堅，誌更大。“不憂門庭多故，而憂所學不能拔俗而入聖；不憂無術以資生，而憂無術以濟天下。”這正是孔子聖人所說的“憂道不憂貧”的典型了。直到三十三歲羅澤南才得以“補縣學生”。
從十九歲起，羅澤南開始自己謀生，在縣內各地開館講學。他所講的內容和方法都不同於一般的塾師，他除了教人識字開蒙、應試科舉之外，還教人靜心養性，練習跳高和拳棒。上午講學，下午操練，這種方法竟然招來了不少學生，如後來在湘軍中衝鋒陷陣的李續賓、李續宜、王錱等湘軍名將，都是羅澤南的弟子。道光二十四年前後，曾國藩的兩個弟弟曾國華和曾國荃兄弟一麵在城南書院讀書，一麵附課於羅澤南處，鹹豐元年，得以舉孝廉方正。可見，飽學之士也不一定科舉順利。此時的曾國藩已是朝廷二品大員。然而，相形之下，羅澤南並沒有怨天尤人，而是窮年汲汲，究心洛閩之學，“宗周敦頤而著《太極衍義》”“宗張載而著《西銘講義》”。周敦頤是湖南學界祖輩，理學開山之人；張載是湖湘學派先師。故澤南成為湖南士人的典型，同時也是極具湖湘性格的士人。
鹹豐二年，太平軍從廣西竄入湖南。羅澤南以一介書生在鄉操辦團練，帶領自己的弟子一班人組織起一千多人的隊伍。正如他所說：“餘以一介書生，倡提義旅，驅馳於吳、楚之間，而其一時之同事者及門之士居多。共患難，履險蹈危，絕無顧惜，抑何不以厲害動其心耶？當天下無事之秋，士人率以文辭相尚，有言及身心性命之學者，人或以為迂。一旦有變，昔之所謂迂者，欲奮起而匡之救之，是殆所謂愚不可及者歟！亦由其義理之說，素明於中故。”他拉起這支隊伍，是要把自己平生所學化為匡救時難的經世之功。也正是這支隊伍，給曾國藩增添了建功立業的信心，而曾國藩的賞識和提攜，也為澤南提供了一個把自己平生所學發揚光大的平台。所以在後來的征戰中，羅澤南成為曾國藩最堅定的助手和沙場先鋒。
三國裏麵的關羽，作戰之餘愛讀《春秋》。澤南頗有此儒將風範。在湘軍中除曾國藩之外，羅澤南也是一個將讀書之風帶到軍營裏的將領，白天鏖戰疆場，夜晚則在營帳讀四書，前後身經大小二百餘戰，常以堅忍而勝。時人問及他製勝之道，他回答說：“無他，熟讀《大學》‘知止而後有定，定而後能靜，靜而後能安，安而後能慮，慮而後能得’數語，盡之矣。《左氏》‘再衰三竭’之言，其注腳也。”
向來隻聞讀兵法可以打仗，從來不聞讀《大學》也能打仗的。可見羅澤南讀書頗有一套心得，而不是讀死書。他的弟子李續賓，自負臂力，精於騎射，能征善戰，而甘心在一個窮教書匠手下“折節受學”，若不是羅澤南有非凡的人格魅力，何以駕馭得這樣一個悍將？後來，曾國藩對李續賓有過評價，其中之一便是一個“靜”字。可見，李續賓深得羅澤南之學，不愧為羅澤南高足。
正因為這樣，曾國藩出山之後，首先想到的便是羅澤南。後江忠源在南昌被太平軍圍困，致書曾國藩求救，曾命羅澤南率二千人前往，因立功官升同知。後羅又在衡陽協助曾國藩改組湘軍，此後一直跟在曾國藩身邊，和塔齊布一起，成為曾國藩的左右臂膀。後來，兩人還結成兒女親家，可見其關係非同一般。
鹹豐五年，羅澤南隨曾國藩出師江西，久攻九江不下。曾國藩愛將塔齊布因此嘔血而死，而太平軍又在猛攻武昌。此時羅澤南向曾國藩建議不如暫時放棄九江、湖口，要打破當前僵局，變被動為主動，不如回軍上遊，占據武昌，打通江西與湖北之間的通道。