鹹豐元年（公元1851年），劉蓉參加鄉試，得榜首。曾國藩知道後很高興，在家信中說：“霞軒得縣首，亦見其猶能拔取真士。”鹹豐二年（公元1852年）五月二十八日，劉蓉之母譚氏去世；八月，曾國藩亦因其母於六月十二日去世而回籍奔喪。當兩人相遇於湘鄉縣城時，悲感交集，相對而泣。
曾國藩到京城做官後，也沒有忘記這位同鄉，詩文往來不斷，並譽之為“臥龍”。曾國藩在《寄懷劉孟蓉》一詩中表達了他對劉蓉深切的眷念之情：
清晨采黃菊，薄暮不盈□。寧知弟昆好，忍此四年別。
四年亦雲已，萬事安可說？昔者初結交，與世固殊轍。
垂頭對燈火，一心相媚悅。炯然急難情，熒熒光不滅。
漣濱一揮手，南北音塵絕。君臥湘水湄，辟人苦局□。
懷念之餘，他們之間更多的是書信往返，相互討論學問之道。道光二十三年（公元1843年），曾國藩在《致劉蓉》一書中，初步闡發了他對文以載道、文道並重的基本主張。他在這封信中說：我今天論述的學術見解，主要是受了你的啟發。二十五年（公元1845年），曾國藩又在《答劉蓉》的書信中進一步闡發了程朱理學之義，批駁了王陽明的致良知說。在這封信中，曾國藩首先說明在兩年之內收到劉蓉三封來信，一直未作回複的原因是由於性本懶怠，對學問研究不深，怕見笑於好友。進而他又指出：“伏承信道力學，又能明辨王氏之非，甚盛甚盛。”其意是說，在你的啟發之下，我才“了略陳大凡，吾子取證而裁焉”。毫無疑問，曾國藩學業的長進，離不開好友劉蓉的啟發幫助，兩人之間的關係在共同誌趣下愈益深化。曾國藩對劉蓉的敬重之情在詩文中也常能反映出來：“夜夜夢魂何處繞？大湖南北兩劉生。”當曾國藩奉命辦團練堅辭不出之時，劉蓉還專門寫了書信一封，勸曾國藩不能僅“托文采庇身”，應以“救世治亂”為己任：
君是今世所謂賢者。稱讚你的人說：文祖韓愈，詩法黃庭堅；奏疏所陳，直追歐陽修、蘇軾；誌量所蓄，不亞於陸贄、範仲淹。這些誠足以讓你顯露於天下。道喪而文敝，全賴賢者起而振興，這並非小補。然這隻是君子不得誌時所為。賢達而位高的人，就應當行道於天下，以宏濟艱難為心。很久以來，士大夫陋習相沿：托文采以庇身，而政綱不問；藉詩酒以消磨時日，而吏事不修，正直君子推原禍始猶恐來不及，怎麼能複蹈覆轍呢！你的幾次大疏所陳，動關至計，確是言人所不能言、所不敢言。但言之而未見其效，就足以塞大臣之責嗎？對國家沒有補益，而你的聲望因此日隆；我想這不是賢能者的胸懷，比起陸、範的誌量差得遠了。匡主濟時之略，先憂後樂之懷，你的雅量達到這種程度，才差不多能肩負天下之重。我希望君能陳古訓以自鑒而不矜於氣，規大道以自廣而務宏其度，集思廣益，才差不多。遵循歐陽修、蘇軾的誌節而自許，博采韓愈、黃庭堅的詞華而自豪，這是承平無事的時代，可以優養大臣的聲望，但並非當今的急務，更無以救治亂世。稱頌你賢能的人說：“其廉可師”；明察你誌向的人說：“以身殉國”。即使你自己也以此自許，曰：“不愛錢”、“不惜死”，何等壯烈！雖然，以此二者讓人明察你的自待之誌可矣；若以此慰天下賢豪的熱望，盡大臣報國之忠，則就距離甚遠！貞女在眾人麵前自誇說：“吾能不淫”，不淫就足以表彰淑女的賢德嗎？不規劃其大事而隻以末節自張，這是何等的淺陋啊！今天下禍亂方興，士氣更加懦弱，欲驅天下智勇才辯之士，捐墳墓，棄親戚，出沒鋒鏑以與敵鬥，非賞不勸。漢高祖四千戶封趙壯士，而陳授首。項羽印信不忍給別人，而韓信、陳平終於棄他而去。豨所以濫賞則有才誌士恥與庸人為伍，而吝賞又無以維係豪傑之心。以廉自獎，又將以廉繩人，那些功名之士，就會掉臂而去。所以說：廉介操守，以語自待之誌則可。而大臣之道，就不僅如此，更非可以推卻責任。
劉蓉與曾國藩有同鄉摯友之誼，故敢於拋開情麵，肝膽共見。針對國家和平時期與多事之秋的不同形勢，劉蓉批評曾國藩應從遠略、大局著眼，不能隻看自己聲望日起，就沾沾自喜，或者以文自娛，不憂天下；更不能上章言事，不管采納與否，而自塞其責。他先以韓愈、黃庭堅的文學成就作比，再舉歐陽修、蘇軾的多彩華章為例，指出這些雖可彰名千古，但時代不同，時勢不同，有誌者不能僅僅如此，而應有陸贄、範仲淹那樣的誌量，才能成就千古傳誦的相業。文中針對婦人之德與君相之德的重大區別，規戒曾國藩不能拘泥幹婦人之仁，而當行“仁”於天下。文末舉項羽功高而不賞，終失韓信等事例，勸他賞功以維係天下豪傑之心。所有這些都對曾國藩產生了直接而深遠的影響。