鹹豐四年（1854年）三月左宗棠再度進入湘幕，正值長沙危急，太平軍石祥貞、林紹璋部隊於年初由湖北攻入湖南。二月攻占嶽州和湘陰，後又一度退出，為王部隊收複。三月初十日太平軍再度攻占嶽州，乘勝南下，進逼長沙以北的靖港。另一支部隊由林紹璋率領，取道寧鄉，直趨長沙南麵的湘潭。當太平軍於二月占領縣城時，揚言要到梓木洞去找左宗棠。他於三月應駱秉章聘到長沙。三月間太平軍攻湘潭時，一部分部隊又經過湘陰。宗棠惦念家人，就親自帶領了100名楚勇回到湘陰，將家人護送出山，太平軍派了30餘人到梓木洞搜尋，但是宗棠和家人已先走一步。他自己已經回長沙，家眷由勇丁送到湘潭，廿七日晨到達縣城，因太平軍已逼近湘潭，他們立即轉到辰山周夫人家中暫住。當他們離開湘潭縣城不到一個時辰，太平軍就蜂擁而至，翌日攻占了縣城。
那時長沙上下數十裏都是太平軍，長沙處於包圍之中。守城部隊主力是新建的湘軍，統帥是在籍侍郎曾國藩。曾國藩字滌生，湖南湘鄉人。嘉慶十六年（1811年）生。家中世代以務農為生。祖父玉屏公開始讀書，父麟書公是一名秀才。曾國藩於道光十八年中進士，廿三年任檢討，典試四川，後轉為侍讀，遷內閣學士，不久任禮部侍郎，署兵部侍郎，可謂官運享通，少年得誌。他是一位博學多才的人。在京師時與倭仁、何桂珍等師事大學者唐鑒，治義理之學；又與友人梅曾亮等為詞章考據。他文學優長，師宗桐城派古文家方苞、姚鼐，在當時朝野已嘖嘖有名。鹹豐二年因母去世丁憂回家，恰逢太平軍從廣西進入湖南，旋又攻占武昌。清朝廷派去鎮壓的滿人將領欽差大臣賽尚阿和副都統烏蘭泰等屢戰屢敗，於是想起了起用漢人。他們第一個選擇了在籍侍郎曾國藩，因為正規軍八旗和綠營已失去戰鬥力，湖南兵單勢危，鹹豐二年底下旨命曾國藩幫辦團防。曾國藩欣然接旨，他認為現任營官不可用，起用了一批書生，大多是秀才或童生，如羅澤南、羅信南、王、彭玉麟、楊載福等，最初從農民和市井中招募了500名勇丁，經過一年餘的訓練和實戰，人員不斷補充，他辦的團練已逐漸壯大，成為一支能與太平軍抗衡的力量。這就是近代史中著名的湘軍。
鹹豐四年初，湘軍總兵力已達萬餘人：陸軍13營，約5000餘人；水師10營，約5000人；戰船240艘，坐船230艘。曾國藩原在衡州練兵，長沙危急，他率領水陸各軍萬餘人馳援長沙。陸軍由塔齊布和羅澤南率領，水軍由彭玉麟、楊載福等率領。
長沙北麵的靖港、西麵的寧鄉、南麵的湘潭，都為太平軍占領。曾國藩到長沙後，會同駱秉章召集文武各官研究對策。多數人認為首先應攻打靖港敵人，隻有左宗棠主張應先支援湘潭。駱秉章和曾國藩采納了左宗棠的意見。原來塔齊布的軍隊奉命支援寧鄉，改命他去攻打潭之敵；並命彭玉麟和楊載福率水師5營支援。曾國藩也準備次日親率5營前往督戰。當日半夜，長沙鄉團來緊急請師，說：“靖港敵人不過數百，他們以為我軍去攻湘潭了，不防備我們，可趁此機會將他們趕走。團丁已架好浮橋，機不可失。”大家聽了躍躍欲試，曾國藩也改變了主意，認為攻打靖港可以牽製湘潭敵人，於是第二天改率水師前往靖港。
塔齊布的部隊於四月初一日到達湘潭，直抵城下。他們還不知道縣城已被太平軍占領，準備開進城裏。而城中太平軍也沒有料到清軍會突然到來，毫無準備。再兵相繼，湘軍不能退，隻能進，太平軍倉惶應戰，又以為官軍大至，無心戀戰，於是往後撤，這一撤就潰敗了。湘軍乘勝追擊，水師也趕到助戰，湘潭城迅速被湘軍奪回。
四月初二日，曾國藩率領留守長沙的水陸各軍攻打靖港，不意守靖港的太平軍力量並不薄，眾炮齊發，曾國藩的船隊不能逼近。曾國藩命令團丁牽纜領船前進，太平軍派出小隊人馬，將牽纜者殲滅，船隊仍然不能前進，水師於是大亂。陸軍和團丁與太平軍接戰，團丁沒有經過嚴格的戰陣訓練，盡是些烏合之輩，看到太平軍就倉惶逃跑，官軍也隨之敗退。他們爭先恐後搶渡浮橋，豈知新建的浮橋是門扉、床板湊合搭成的，人多擁擠，橋也塌了，有百餘人落水而死。曾國藩看到官軍潰退，命人在岸邊豎立一麵令旗，親自仗劍立在旗下，下令說：“過旗者斬！”但是潰敗的兵士們都愴惶從旗旁繞過，狂奔而逃。曾國藩見製止不住，又氣又急，忿然投水自殺。幸虧近岸水淺，隨行標兵3人趕忙將他拉住，他斥責標兵們快走開。他的隨員章壽麟也從艙後鑽出來，將他從水中拉起。曾國藩本來不許章壽麟跟來的，問他從何而來，章壽麟是因頭一天曾看到曾國藩寫了寄給家中的遺囑，知道他下了必死的決心，因此偷偷趕來，躲在船艙裏，他騙曾國藩說：“剛才聽到湘潭大捷，所以特來報告。”曾國藩還不相信，又詢問詳情，章壽麟編派了一通，曾國藩稍微安心些。他們就從停舟地銅官回到長沙城下南湖港，當夜得到軍報，湘潭果真大捷，上遊水戰中破損的敗船斷槳沿湘江順流而下。湘潭這一仗，太平軍死亡萬餘人，戰船幾乎全部覆沒。作為湘軍統帥的曾國藩雖然在靖港戰敗，甚至投水欲自殺，但湘潭大捷，卻樹立了湘軍的威名，太平軍從此遇到了一支勁敵。
次日早晨，左宗棠聽到曾國藩從靖港兵敗回長，就從城內縋城出來，到舟中探視，看到他疲憊不堪，衣服上還沾染泥沙痕跡。左宗棠責備他說：“現在大事尚可為，不應該為一次挫敗就尋死。”曾國藩睜大了眼睛，一言不發，隻叫從人將紙筆拿來，將所存的火藥、子彈、軍械數目詳細寫下，囑左宗棠代為保管。那時他的意誌還沒有完全恢複過來。
曾國藩初次領兵，還缺乏經驗，手下人才又不多，這次戰敗後，深受教訓，認為兵不在多而在精。於是裁撤了部隊中老弱無用者，隻留下精壯5000餘人，並上奏自請處分。布政使徐有壬和按察使陶恩培本來就討厭曾國藩，也趁機要求駱秉章奏劾他，並遣散湘軍，但是駱秉章沒有同意。朝廷因湘潭大捷，不僅沒有責備曾國藩，還提升塔齊布署湖南提督。
靖港的太平軍得知湘潭大敗，就退回嶽州，不久又攻陷常德。陸路的太平軍繞過江西的萍鄉、萬載與湖北通城的軍隊會合，準備再度南下。左宗棠建議駱秉章，奏調胡林翼督趙啟玉各軍進擊常德，江忠淑軍由平江挺進通城，塔齊布和羅澤南二軍在新牆會合，待機北上。曾國藩也率領湘軍水師和兩廣增援的水師由長沙駛抵嶽州。不想水師遭到太平軍的伏擊，打了一次敗仗。廣東水師統領陳輝龍、湘軍水師營官褚汝航等陣亡。但是塔齊布和羅澤南的陸軍打了勝仗，太平軍秋官又正丞相曾天養陣亡，韋誌俊等率餘部退回武昌。嶽州為清軍收複，不久，江忠淑軍又收複通城。這樣，太平軍已全部退出湖南，他們攻占湖南的企圖再次受到挫敗。 左宗棠看到家鄉已平靖，“保衛桑梓”的任務已告一段落，就向駱秉章提出辭呈，仍要回鄉隱居。駱秉章不允許他辭職，曾國藩也再三慰留。他一則是在壓力之下，另外呢，自入幕以來，駱秉章很尊重、信任他，對他推心置腹，所策劃無不聽從，他也得以有所作為。駱秉章和曾國藩堅決慰留，他們私人交情也很好，實在推卻不過，隻得又留下來了。他在給女婿陶桄和妻弟汝充的信中，表達了他的心情，說：“長沙大局略定，思更名隱姓，竄匿荒山，而中丞推誠相與，軍事一切，專以相付，不得不留此共相支撐。”“世局日艱，兄晝夜扌骨扌骨無少休息，徒以籲公、滌公拳拳之故，不能抽身。使嶽、常、澧早無事，則兄徑歸矣。”他的隱居初衷到這時還沒有絕念。
他在駱幕中一留，直到鹹豐九年底，將近6年之久。駱秉章對他的信任也是逐步加深的。一年以後，就全權信任他，將重要軍政事務都交付他處理，駱秉章隻畫諾簽字而已。他的權力很大，外間傳說甚至超過巡撫。屬僚有事上白駱秉章時，駱秉章總是說：“去，問季高先生。”凡是左宗棠同意的，駱秉章也同意，左宗棠不同意的，駱秉章也必不同意。有一次巡撫衙門的轅門（外大門）發炮，駱秉章聽到了，忙問何事？旁邊的人告訴他：“是左師父在發軍報折子。”駱秉章點了點頭，慢吞吞地說：“把折稿拿來看看吧。”按例，發軍報折是很隆重的事，一般得巡撫親自主持。駱秉章連折稿都沒有看，就聲炮發出了，可見左宗棠專權之甚，也可見駱秉章對他信任之深。駱秉章是位涵養很深的人，他暇時常到幕府去坐坐，左宗棠和另外幾位幕友高談闊論，證據古今，談笑風生，駱秉章隻是在一旁靜聽。
駱秉章幕府中很有一些才智之士，像郭？燾、黃冕等。駱秉章對他們都很信任，引起了一些人的忌恨和誹謗。因為有些幕客並沒有中舉人、進士，嫉妒的人就說，在湖南是“幕友當權，捐班用命”。駱秉章不理睬他們，還辯解說：“幕友們辦的事都是他本人裁決定奪而後施行的。至於人才應量能力使用，本來就無科甲、捐班之分，那些閑話根本不用去管它。”
許多年以後，駱秉章早去世了，左宗棠收複新疆，立了大功，拜相封侯。有一次他問一位友人：“我和駱文忠公相比如何？”友人說：“你不如駱公。”左宗棠問是何原故，友人說：“駱公幕府中有你，你的幕府中卻沒有像你這樣的人。由此看來，你不如他。”左宗棠聽了哈哈大笑。他一生對駱秉章十分傾服。