曾國藩接到劉蓉的信後，大為折服，隨即寫信力邀他入幕，信中詼諧地說：“吾不願聞弟談宿腐之義理，不願聽弟論膚泛之軍政，但願朝挹容暉，暮親臭味，吾心自適，吾魂自安。筠仙（郭嵩燾）深藏樟木洞，亦當強之一行。天下紛紛，鳥亂於上，魚亂於下，而筠仙獨得容其晏然乎？”當時劉蓉已在湘鄉與羅澤南等練湘勇，並卓有成效，隻有郭嵩燾冷眼相觀。所以曾國藩說不能讓郭獨自晏然。劉蓉即赴曾國藩幕，郭嵩燾也隨即來到。昔日布衣之交的三位兄弟，今日又走到一起了，曾國藩卜分興奮。郭、劉兩人與曾國藩相約：“服勞不辭，惟不任仕宦，不專任事，不求保舉。”這“三不主義”被打破，乃是後來之事，但曾國藩當時隻好答應，並請郭、劉出謀劃策。同時他對管理銀錢的夥計說：“郭、劉二君，是吾兄弟，不與眾同。薪水惟所支用，不限數也。”
而郭嵩燾之於曾國藩的價值，則首先表現在他力勸曾國藩“墨絰從戎”。
中國封建社會曆來講究“以孝治天下”，清代更有明文規定，無論多高職務的官員，父母死了必須離職守製。如果政府特別需要這位官吏任職，可命其不必去職，以素服辦公，不參加吉禮；或於守製尚未期滿之時，召令複職，稱為“奪情”。有的人為了標榜自己盡孝的誠心，甚至連皇帝“奪情”的命令也可以不聽。封建社會重視“君要臣死，臣不得不死”的“忠”，但臣子要搬出一個“孝”字來對抗，君也無可奈何。當然，這要冒被君主厭煩的危險，但也可以大出個人氣節的風頭。
曾國藩一向篤信理學，不能不做做姿態。曾國藩母死的同年十二月十三日，曾國藩收到了那份要他出山的上諭，他立即“草疏懇請終製，並具呈巡撫張亮基代奏，力陳不能出之義”，“但繕就未發”。十五日，曾國藩接到張亮基來信，得知武昌於十二月四日已被太平軍攻占，不勝震驚。“以湖北失守，關係甚大，又恐長沙人心惶惶，理宜出而保護桑梓”。恰巧在這一天，郭嵩燾趕到湘鄉為曾母吊唁。
郭嵩燾趕到曾家時已是深夜，兩人秉燭暢敘，當談及時事時，曾國藩說自己要守製，不能出來主持團練。郭嵩燾則力勸曾國藩說：“公素具澄清之抱，今不乘時自效，如君王何？且墨絰從戎，古製也。”郭嵩燾素知曾國藩野心勃勃，以整治封建秩序為己任，現在麵臨“亂世出英雄”的機會，為什麼不大大施展抱負，盡忠皇帝呢？郭又拿出“古已有之”的例子來說服曾目藩，情真意切，不可言表，給標榜“忠孝”的曾國藩一個很好的台階，但曾國藩為了表示盡孝的“決心”，仍表示不同意。郭嵩燾又反複與曾國藩的父親談“保衛家鄉”的大道理，曾父認為講得對，便把曾國藩叫到麵前教訓了一番，曾國藩這才應允。但多日不見起行。郭嵩燾又同他的弟弟郭梫燾一同前往曾家勸說，但曾國藩卻以郭氏兄弟入幕參讚其事為先決條件，郭嵩燾隻好答應。此後四年，郭嵩燾大部分時間都在曾國藩幕府中度過，成為湘軍初創、曾國藩“大業”初起時的主要人物之一。十二月二十一日，曾國藩抵長沙，開始著手籌練湘軍。
曾國藩曆來是被譽為頗具知人之明的，而這種知人之明除了主要表現在他慧眼識才，還具體反映在他與左宗棠的關係上。
左宗棠在曾國藩死後，曾寫了這麼一副挽聯，他別出心裁，把自己寫了進去：
謀國之忠，知人之明，自愧不如元輔；
同心若金，攻錯若石，相期無負平生。
曾、左交惡多年，音息不通，但曾國藩對左宗棠的才華曆來擊節讚賞。在左宗棠處於危厄之際，曾國藩伸出援助之手，薦舉他任四品京堂襄讚軍務，掌握軍隊實權，終於位至督撫，他因此贏得了左宗棠的“自愧”。這是曾國藩“謀國之忠、知人之明”的一個實實在在的事例。他們“同心”“攻錯”，目的都是忠於國家、無負平生，足見曾、左都有寬廣的心懷。所以，左宗棠這副半挽人半責己、半頌德半抒懷的挽聯，被後人盛譽為名聯。