左宗棠第一次赴京會試時，曾去拜方過在詹事府任詹事的胡達源，並結識了後來也成為“中興”名臣的人物—胡達源之子胡林翼。
左家和胡家原是世交。胡達源，湖南益陽人，早年曾與左宗棠的父親左觀瀾同讀書於長沙嶽麓書院，交往密切，感情彌篤。而胡林翼與左宗棠先是同年，後來又成了親戚。胡林翼出生於嘉慶十七年（1812）六月，比左宗棠大四個月，後來也在賀熙齡門下求學。他自幼聰明異常，8歲時就被陶澍看中，招為女婿。少年時代，他常隨嶽父住在兩江督署，風流倜儻，才華橫溢，也深受陶澍、林則徐等人的影響，有匡時濟世之誌。 左宗棠與胡林翼一見如故，意氣相投，從此成為莫逆之交。兩人在一起談古論今，朝政腐敗、官吏無能、民生困苦和西方各國的侵逼，無所不及，都預感到天下將要大亂。為此，二人“輒相與欷太息，引為深憂。”以致時人均為之詫異，不知他們為何憂歎。
道光十九年（1839）六月，陶澍在南京逝世，家眷遷回安化。次年，左宗棠受老師賀熙齡之托，就館陶家，教其子陶桄讀書，達八年之久。
在這期間，胡林翼因父憂歸裏，幾次來安化嶽父家。胡林翼雖然中舉比左宗棠遲了二年，卻已於道光十六年（1836）考中進士，授翰林院編修，還任過江南副考官。左宗棠在安化陶家得與胡林翼再次相會，兩人風雨連床，縱談古今大政，以至通宵達旦。
道光二十九年（1849），左宗棠離開安化，來到長沙開館授徒。女婿陶桄仍跟他學習。此外還有長沙名流黃冕的三個兒子和益陽名宦周振之之子周開錫與之受教。
鹹豐三年（1852），太平軍進圍長沙。當時湖南巡撫駱秉章奉命調京，由張亮基繼任，張鑒於湖南局勢嚴峻，責任非同小可，便廣搜人才以備顧問，並協助處理軍政事務。胡林翼得知這一消息後，便將鄉中有真才實學的人士列名推薦，在推薦信中對左宗棠特別稱讚：“左子季高則深知其才品超冠等倫，曾三次薦呈。此人廉介剛方，秉性良實，忠肝義膽，與時俗迥異。其胸羅古今地圖兵法、本朝國章，切實講求，精通時務。訪問之餘，定蒙賞鑒。即使所謀有成，必不受賞，更無論世俗之利欲矣。”張亮基一到常德，就趕緊派人到湘陰東山白水洞，請左出山。左複信辭謝，沒有答允。胡林翼又寫信對他說：
張中丞兩次專人備禮走請先生，一阻於兵，一計已登鑒，昨得中丞八月廿三日喬口舟次信，言‘思君如饑渴’。中丞肝膽血性，一時無兩。林文忠薦於宣宗皇帝，以是大用，先生最敬服林文忠，中丞固文忠一流人物也。去年冬。曾以大名薦於程製軍而不能告之先生，固知誌有不屑也。林翼非欲渾公於非地，惟桑梓之禍見之甚明，忍而不言，非林翼所以居心。設先生屈己以救楚人，所補尤大，所失尤小。區區愚誠，未蒙深察，且加誚讓，且入山從此日深，異哉！先生之自為計則得矣。先代積累二百年，虛生此獨善之身，諒亦心所不忍出也。張中丞不世奇人，虛心延訪，處賓師之位，運帷幄之謀，又何嫌焉。設楚地盡淪於賊，柳家莊梓木洞其獨免乎？
這樣一封情詞懇切，既有勸說又的批評、既是朋友又是親戚的來信，終於打動了左宗棠，使他不能再猶豫。加之同住山中的郭嵩燾和左宗植也不斷勸其對張巡撫兩訪求賢之事，實在應當成全其美。而長沙守備江忠源也來信敦促，這才使左宗棠決定應聘出山一試。
左宗棠這時已經41歲，他在圍城中晉見了張亮基巡撫，兩人握手言歡，一見如故。張隨即將全部軍事委托給這位新來的“參謀長”。從此，他的各種建議不僅都能被張采納，並立刻付諸實施，其知識和才能也得以施展，有了用武之地，一生功名也便由此開始。
由於其時左宗棠已是張亮基的得力幕僚，並且在抵禦太平軍、鎮壓征義堂起義中顯露出超群的才能，因而曾國藩很快就與之結識，並建立了親密的友誼。這是曾、左結識之始，也是二人親密關係的開端。同時，曾國藩的權力、左宗棠的才能，更加深了他們彼此間合作的需要。二人互相依靠和支持，可謂珠聯璧合，相得益彰。這點，在他們當時各自的私人書劄中曾多有記述。如左宗棠是年與其媚陶桄的信中寫道：“曾滌生侍郎來此幫辦團防。其人正派而肯任事，但才具稍欠開展。與仆甚相得，惜其來之遲也。”次年初，曾國藩在致胡林翼書中亦寫道：“（臘月）二十一日馳赴省垣，日與張石卿中丞（張亮基）、江岷樵（江忠源）、左季高（左宗棠）三君子感慨深談，思欲負山馳河，拯吾鄉枯瘠於萬一。蓋無日不共以振刷相勖，亦無日不屢稱台端鴻才偉炮，足以救今日之滔滔，而恨不得會合，以並紓桑梓兵後之餘慮。”此段時間，曾左互往信函頗多，在對時局的判斷上達到許多共識。由於左宗棠在巡撫幕中，因此曾國藩不斷將自己所辦之事請左宗棠拿主意。曾國藩認為人才對地方建設十分重要，因此，也經常向左推獎一些人。如鹹豐三年六月信中說：
武弁實乏者，曾在北省物色幾人否？文員如宜章之王，耒陽之唐，實難多得，而衡、永、郴、桂四屬，非得賢有司，落落分布，則土匪之興，殆無了日。寶慶五屬，邵葆皆賢，趙尤卓卓，亦賴古愚後之可登薦牘者也。靖州防堵保舉案中，儲玫躬現在長沙火藥局，實樸士；其次丁姓者，聞尤一時之英，極結實而能肩大事。督署批靖州稟言當予以保敘，豈亦有所聞乎？尊處亦可謂兼視並聽，無微不燭者矣。
鹹豐三年十月，是曾國藩一生中幾次艱難受挫之時的一段時光，他非常希望左宗棠能加入他的陣營助一臂之力。他在信中，把左引為“骨肉至交”，勸其來助：
惟弟智慮短淺，獨立難蝭，欲乞左右，野服黃冠，翩然過我，專講練勇一事，此外，概不關白於先生之前。先生欲聾兩耳，任先生自聾焉，吾不得而治之也。先生欲盲兩目，任先生自盲焉，吾不得而鑿之也。先生若果惠然不棄，則請攜老筠（郭嵩燾）俱來田鎮一走。姓字已編入逃勇籍中，此中閱曆，應較深確，弟另有書致之。所懷千端，紙不能悉。冀或者枉駕，痛切麵陳，乃能傾瀉耳。
此次左宗棠雖未入幕，但對曾國藩取得湘潭之勝利起到重要的謀劃作用。因而曾國藩在寫給清廷的奏折中多次舉薦左宗棠“才略冠時”，“自湖南用兵以來，出虛發謀，皆其讚畫，現又經營船炮，接濟大軍，應請以知府歸部盡先選用”。鹹豐五年又上奏稱讚左宗棠“維護水師，保衛兩湖，大有裨益。”
期間，二人也有磨擦。一是曾國藩因為堅持湘軍不受地方大僚指揮的原則，與王發生衝突。王本是曾國藩的下屬，他們之間矛盾的發生發展，其實主要反映了作為中央派出大員曾國藩與作為地方實力派駱秉章在實際利益方麵的矛盾。左宗棠鹹豐四年三月入駱秉章撫幕後，他作為幕僚，站到了駱秉章一邊，也是很自然的。
再有一件事就是寧鄉發生隆氏父子案，事牽曾、左。隆觀易之父頗為任俠，因此為裏豪所讎。隆觀易十餘歲時，避走衡陽，改易姓名，入蓮湖書院。從生童誦讀，穎異敬學，詩文幽苦。曾國藩的嶽父歐陽凝祉為書院講席，感到隆觀易很奇怪，就問他從哪裏來，隆向歐陽先生具訴其冤。適曾國藩屯駐衡州訓練湘軍，聞其事，即“移文寧鄉，悉反其事，捕係其父所怨家數十人，欲窮治其獄”。巡撫駱秉章“以國藩侵官權，固不樂”。裏豪“乃遍訴其縣吏士，因左宗棠告巡撫，徑不檄用便宜斬其父，事又大反”。隆觀易剛返鄉，“遇奇變，即又竄走山穀間”。後案情雖稍緩解，“而怨家猶盛，不敢入城市都二三十年”。由於曾國藩與隆觀易父子的關係顯然較深，他以治兵大員直接插手地方訴訟、司法事宜，很自然地引起了巡撫駱秉章的不滿。不久，左宗棠入幕，寧鄉“裏豪”和“吏士”才“因左宗棠告巡無”，終於以地方政府的名義“下檄用便宜”斬隆觀易之父，使案件全部翻過來。顯然，隆觀易父子案中的曾、左關係也主要反映曾國藩與駱秉章的矛盾。
曾、左間有些小糾葛，但以上二件事主要是曾國藩與駱秉章之間的矛盾，間接涉及左宗棠。而曾國藩為了籌集湘軍餉銀，向陶家勒捐，這件事可以說直接牽扯左宗棠，為此二人鬧得不愉快。但這些不妨礙二人在大局上保持一致，其中，胡林翼的調和作用又很重要。胡林翼寫給曾國藩的信中說：“左宗棠為人忠誠、感情真摯而專一。他性情偏激的地方，好比朝廷有爭臣，家中有烈婦。平時雖有小的牢騷，到麵臨危難的時候就知道其人的可靠。”又寫信給左宗棠說：“國藩的品德，是我們湖南的第一位人物。聲名太高，名望太深，那麼他日遭到的抱怨和誹謗也是不可預測的。國藩善於保全，不讓自己蒙受千秋的誣陷。” 胡的信似乎他有先知之明，知道曾、左以後會鬧不和，因此寫信各舉所長。
胡林翼，字潤之，道光十六年進士，改庶吉士，十八年散館，授職編修，廿六年捐升知府，分發貴州，曆任鎮遠黎平等府知府，其父官至詹事府詹事。其嶽父陶澍為兩江總督。他青年時期，一度過著頗為放蕩的貴公子生活。但自其嶽父、父親相繼去世，仁途又遭挫折之後，早年所受程朱理學教育，陶澍名臣榜樣，在他身上發揮愈來愈大的影響，一心要為名臣，留名後世。以至史書上將他稱為“從豪傑到聖賢的人”。
胡的轉變很耐人尋味。相傳他與陶澍之女，訂婚之初，陶夫人竭力反對，但陶澍不聽她的話。到結婚之夕，四處找新郎不見，後來探知他在妓館買醉，連忙派人把他找回，新郎已大醉如泥，草草扶入洞房。親友賓客無不嘖嘖稱異，怎麼新郎這時候還去同妓女胡混呢。陶夫人更是埋怨丈夫不該取他做女婿。陶澍百般勸解，並說：“胡家少爺將來是國家棟梁，前途未可限量，他的功名事業皆在老夫之上，夫人切不可小看他。他將來擔當大事，一定不會胡塗的。”
胡林翼少年時好冶遊，與曾胡同事的文人，常有記載。有記載說胡林翼在翰林院供職時，常與同鄉周壽昌冶遊，被巡城禦史所辱，其事甚為有趣：
善化周荇農以文章名世，相傳胡林翼入翰林後，在京常與荇農冶遊，一夕方就娼家，坊卒掩至，荇農機警，亟入廚下，易服而立，得免，林翼及他人並被捉去，司坊質訊，不敢吐姓名，坐是頗受辱，釋歸，即與荇農絕交，謂其臨難相棄。後此治軍，且不喜用善化籍，曾國藩為荇農屢解釋於林翼，卒不得大用。
還有的野史說，胡林翼結婚以後，他的嶽父陶澍在南京做兩江總督，胡林翼陪送嶽母前往南京督署，順便就在嶽家作客。目睹南京城中的六朝金粉，紙醉金迷，頓時使他的遊興大發，也忘記了他在南京是總督大人的嬌客身份，竟然在秦淮河釣魚巷等處的歌榭燈船中流連忘返起來。督署中的幕友，有人將此情形告知陶澍，意欲請陶澍加以督教製止。然而陶澍卻說：“潤之之才，他日為國勤勞，將十倍於我。後此當無暇行樂。此時姑從之，以預償其日後之勞也。”竟不加幹涉。這些傳說彼此並不抵觸，當可使人相信，胡林翼從讀書時代以至作官入仕，始終都是放蕩不羈而性好冶遊的。而從他捐貲出任知府之後，就有了顯著的轉變。 盛行於清代末年的捐官辦法，造成了製度敗壞與吏治貪下，最為清代政治上的大弊。然而，亦正因為有此一種辦法的存在，總可以使胡林翼由一個待樸缺的七品內閣中書，一下子超擢為四品的知府。如其不然，胡林翼在仕途的淹蹇沉滯，真不在要到那一年才有出頭之日呢！
胡林翼在陝西賑災案內援例捐納知府，照例可以自行指定前往候補的省分。當時胡林翼所自行指定的，是貴州省。貴州素稱地瘠民貧，服官者視為畏途，而胡林翼居然自請指分貴州，在當時人看來，自不免大感意外。清人嚴樹森所撰胡林翼譜敘及此事雲：
時龍山友人李如昆留都門，問曰：“今有司之法，輸金為吏者得自擇地，君何獨取於黔？”公曰：“天下官方，獨貴州縣吏奉上以禮不以貨。某之出，資用皆他人助成之。竊念兩世受國恩遇，黔又先人持節地（胡林翼之父達源，曾於道光八年至十二年以翰林院侍講提督貴州學政），習聞其風俗。某初為政，此邦貧瘠，或可以保清白之風，而不致負良友厚意。”李公為之起敬。
另外，梅英傑撰的胡林翼年譜中亦說到，胡林翼於道光二十七年（1847）將往貴州候補之先，“偏謁先祖，誓不取官中一錢自肥，以眙前人羞。”可見胡林翼之所以要指名貴州，正是希望要藉貴州之貧瘠困窮及政多擊錯，來磨練他自己的誌節。由於他的這種抱負，到貴州不久之後，他的聲譽就蒸蒸日上了。
胡林翼在貴州七年，由於治績卓著而致致聲大起，既得上司之倚重，又承皇帝之垂注，理應一本初衷，繼續留在貴州服務才是。但是他在奉調為貴東道之後，卻向本省當局一再稟辭，請求體念老母年高及自己因心勞力絀而百病叢生，懇允放歸故裏。
恰在此時，太平天國運動已在湖北湖南等地興起，清軍所向潰敗，湖廣總督吳文指名奏調胡林翼前往湖北，已奉皇帝允準。於是，胡林翼亦就在鹹豐三年的十二月，率領他自己所訓練的黔勇六百人，奉母湯太夫人自貴州回湖南，參加了征討太平天國革命的行列。自此以後，他的事業邁向了另一個新的開始。
曾、胡兩人的早年遭際、出身、作為可以說都有很大不同。就資曆、家世而言，胡林翼均優於曾國藩，他出身名門，中進士比曾國藩還早。曾國藩庶吉士散館時，胡以翰林院編修充會試同考官，又充江南鄉試到考官，已是一名紅翰林。但胡林翼也因這次試差受牽連被降級調用，喪失了美好的前程。第二年，胡林翼的父親胡達源病逝，當時曾國藩管理長沙舍館事，作誄詞相悼。靈柩返鄉時，曾國藩又親往送行。在家守製的胡林翼頗為消沉。他的一些江南門生，集合了幾個頗為富有的同年說：我們受兩位座師之恩，今日才能來京會試，現在兩老師出了事，文老師不用說了，他是大臣，又是旗籍，向來為皇上所重用，他很快就會爬起來，說不定三兩年後就能光複舊物。隻是林（胡林翼）老師家非豐裕，一旦降職，要循資漸進，時間頗長，我們受恩深重，不如湊一筆錢來替林老師捐個官職，向外發展。林老師為人能幹，在京既然不能得意，出外做州縣官，也有發達機會的。於是為他捐一個知府。這便是胡林翼由京官改外官的緣起。而此時的曾國藩，步步高升，已成為禮部侍郎，國家大員，而胡還是一個知府。
曾國藩由於出身寒素，似乎看不慣官宦人家的所為。與胡家雖有往來，但心中另有一番認識。當胡達源去世，靈柩南下時，隨帶財物數車，曾國藩心中對胡家的“清白”有所懷疑。但胡家在湖南屬於巨宦，又之胡林翼的才華，因此曾、胡在京師交往仍是很多的。
十二年後，曾國藩的母親去世，胡林翼以厚賻相贈。曾國藩將胡視為前輩。他初出辦團練，與張亮基、江忠源、左宗棠慨談時勢，“無日不屢稱台端鴻才偉抱，足以救今日之滔滔。而恨不得會合，以並抒桑梓兵後之餘慮。”“聞台端除強暴，不遺餘力，鄙懷欲取為伐柯之則，倘肯授我方略，時示成法，實為厚幸”。這是曾國藩回籍後第一次與胡通信。
吳文奏調胡林翼後，胡帶黔勇師行通城時，吳已戰歿，胡阻梗於途。鹹豐四年正月，當時胡尚在途中，曾國藩即望其相助：“方今世變孔棘，而宦場泄遝之風，曾無少為振作。有識者以是深懼，皆懷入山恐不深，入林恐不密之誌。故侍之不克羅致英彥，固由素行淺薄，不足以引針拾芥，亦實因有道之往往潛藏，不肯輕予人以一知也。”二月，曾國藩奏請清廷，留胡林翼在嶽州附近會攻太平軍水師。胡林翼遂隸曾國藩部下。胡以功旋援四川按察使，仍留湖北。曾國藩此後大舉“東征”，又向清廷奏請留胡，稱胡“膽識絕人，威望素著”，“才大心細，為軍中萬不可少之員”，請隨同東征。鹹豐帝允準。胡也成為湘軍中僅亞於曾國藩的二號人物。
五、攻取武漢，有功不賞
俗話說，士氣可鼓。城陵磯大戰的勝利，使湘軍士氣高漲，水陸東下，沿途幾乎沒有遇到抵抗。水兵們露立船頭，不披甲胄，不避槍彈，順流直下，於鹹豐四年八月十一日抵達金口。對士兵們如此勇敢，曾國藩非常得意。後來他在一篇筆記中說，初辦水師時，嚐博求禦炮子之法，竟無法可禦。後來楊載福等將牛皮等物屏棄不用，“直以血肉之軀植立船頭，可避者避之，不可避者聽之”。而部下水師官兵亦紛紛效尤，相率植立船頭，“直前無所回避”。太平軍一直退卻，湖南境內幾乎沒有太平軍的蹤跡。
曾國藩似乎也喘過一口氣。由於“辦理甚合機宜”，鹹豐帝賞給他三品頂戴。這對於已被革職的曾國藩而言，帶有重新啟用的意味。曾國藩百感交加，他原是二品大員。為清廷立的功勞不小。那麼多擁重兵的欽差、將帥還有手中握有綠營的封疆大吏，幾乎無一不敗，而他一個在籍的侍郎卻把又“長毛”趕出了湖南，不但使大清的版圖沒有被腰斬，而且又兵臨武昌城下，東南大局已有轉機。清廷卻如此吝嗇。曾國藩於是上了一道“謝恩折”，與其說是“謝恩”，不如說是不滿。說自己辦理軍務半年有餘，“實過多而功少”，而且奉旨辦團練之初，已經奏明有功不議敘，不加官，去歲奉命援鄂、皖，肅清江麵，臣不知能勝任。但是東南數省，大局糜爛，凡為臣子，無論有職無職，有才無才，皆當畢力竭誠，以圖補救萬一。於是自忘愚陋，日夜焦思，冀收尺寸之效。月前嶽州之捷，都是塔齊布、羅澤南、楊載福等人之功，微臣毫無勞績。在奏折的後麵，曾國藩又舊話重提，即他現在墨從軍，朝廷有議升之事，一概不受，而且言詞肯定：