曾國藩籌備的遠征軍打算於1854年年初沿湘江而下。這是它第1次被用於對抗太平軍，而此時太平軍已經溯湘江而上，進入湘陰與寧鄉。湘軍在3月份打了幾個小勝仗，[1]將太平軍趕回到嶽州，曾國藩及其整個水師，與大約4000名陸軍一起，火速向嶽州挺進。戰船分散開來，在洞庭湖靠近湖南各條河流入湖口的水麵上巡邏。
一封又一封告急信送來，催促湘軍火速增援湖北，該省的省會武昌十分危急，東王率軍來到那裏，打算攻陷該城，控扼長江上遊。[2]還有人提出要求，催促湘軍救援安徽，因為該省已被太平軍占領。曾國藩很高興，他現在終於上路了，去實現皇帝的願望。
[1] 在 3 月 24 日的奏疏中做了詳細的報告。《奏議》：卷二，第 38 頁上欄。
[2] 《太平天國野史》：卷十二，第 6 頁。
然而，等待著他的卻是失望。4月4日，新艦隊的24艘戰船沉沒了，幾十艘戰船被橫掃湖麵的大風暴損壞，導致許多人溺斃。與此同時，在準備出征的那幾個月內與曾國藩意見相左的王錱，已經離開嶽州，率領約2000名部眾，朝武昌方向推進。在距離羊樓司不遠的山上，他們遭到太平軍優勢兵力的四麵圍攻。王錱所部沒有作戰經驗，驚慌失措，丟下輜重，向四麵八方潰逃，一直逃到嶽州，抵達圍城之外。他在這裏得到2000名正規軍和朱孫貽指揮的600名新軍增援，抵抗太平軍的前鋒。但是打著黃旗、披著紅衣的太平軍主力很快就殺到了，把恐懼散播到官軍心中，他們再次逃離至城外選定的陣地，隻有1個營的500人堅守不退，鏖戰整天，抵擋幾千名太平軍的進攻。[1]官軍被趕進了嶽州的城牆之內，但是他們缺米缺鹽，沒有做好抵禦圍攻的準備，曾國藩隻有1600人留作預備隊。停泊在嶽州城旁的戰船給了太平軍一定的打擊，但是很不幸，在風暴中損失了那麼多戰船以後，嶽州又缺乏補給，而太平軍在向長沙推進，這就迫使曾國藩不得不撤退，以在長沙及時布防。曾國藩在4月17日撰寫的奏疏，首尾兩次請求皇帝將他交給刑部議罪，作為對這次失敗的懲罰。[2]
陸軍的其他部隊已經從其他道路前進，朝崇陽與通城方向推進較遠，但其司令官塔齊布與胡林翼也奉命率部返回長沙。[3]於是開拔後僅僅過了4周的整個湘軍，現在又退回了長沙。
太平軍在長沙以北30公裏處的靖港分兵進軍。他們一部分從陸地上前往湘潭，於4月24日攻克該城。他們在湘潭城外修築了附加工事，奪得幾百艘船隻，準備守住該城，抗拒敵軍。到此時為止，湘潭一直是一個重鎮，是與廣州進行陸地貿易的頭號城市，大量的茶葉和其他出口物資都是通過此地運往沿海。塔齊布於4月25日奉令前去收複該城。第2天，5營水師也前去參加戰鬥。此後鏖戰4天，消滅了幾千名太平軍。4月27日，水陸兩軍聯合攻擊，摧毀了太平軍艦隊的大部，掃清了陸地上的壁壘。可以說，新軍的士氣在這幾天的戰鬥中才首次高漲起來。[4]4月29日，太平軍再次遭到重創，湘軍於5月1日漂亮地收複了湘潭。
[1] 曾國藩在給父親的一封信中解釋說：這次失利的原因是他將兵力分散，以及有大約 3 萬名太平軍對抗僅有 2000 多人的官軍。
[2] 《奏議》：卷二，第 42~44 頁。
[3] 《奏議》：卷二，第 48 頁。
[4] 《年譜》：卷三，第 7 頁下欄，第 8 頁上欄。
這些大捷幾乎被中和掉了，因為在4月28日，曾國藩親自率領一支由40艘戰船與800士兵組成的部隊攻打靖港，吃了敗仗。當時南風大作，水流湍急，其相加的作用力致使戰船無法操控。它們被太平軍俘獲或燒毀。曾國藩在剛剛被迫從嶽州撤回後，就遭到第2次失敗，他又羞又憤，兩次跳水自盡，但每次都被朋友們救起。[1]由於3天後有了湘潭大捷，有了勝過希望之光的勝利，曾國藩可以說是幸運的，因為這是黎明的到來，太平軍終於遇到了敵手，在沒有滿族人參與的情況下遭到了慘敗。[2]
盡管有了這個勝利，曾國藩還是在一生中最痛苦的日子裏備受煎熬，受到長沙官員的公開嘲笑。[3]
[1] 《年譜》：卷三，第 8 頁上欄。
[2] 請記住，江忠源曾在全州附近完全改變了他們的進軍方向。
[3] 《家書》，1854 年 5 月 16 日。
他發現到處都是欺詐，並且受到手下幾名將領的刁難。我們已經講述過王錱的不誠，此人在左宗棠的幫助下將一場小仗虛報為大捷。但他還被自己家人的行為所困擾，他的二弟曾國潢來到長沙跟他吵架。他在一封家書中寫道：“餘近來因肝氣太躁，動與人多所不合，所以辦事多不能成。澄弟今日肝氣尤旺，不能為我解事，反為我添許多唇舌爭端。軍中多一人不見其益，家中少一人則見其損。澄侯及諸弟以後盡可不來營，但在家中教訓後輩。半耕半讀，未明而起，同習勞苦，不習驕佚，則所以保家門而免劫數者，可以人力主之。望諸弟慎之又慎也。”[1]
他還向家人傾訴了對於大勢的看法，說到處都是爾虞我詐，他不得不承擔幾名部屬將領的任務，隨後寫道：“然官場中多不以我為然。將來事無一成，辜負皇上委任之意，唯有自愧自恨而已，豈能怨人乎？怨人又豈有益乎？大抵世之亂也，必先由於是非不明、白黑不分。諸弟必欲一一強為區別，則愈求分明，愈致混淆，必將慪氣到底。願諸弟學為和平，學為糊塗。璞山之事，從今以後不特不可出諸口，而且不可存諸心。”[2]
這些日子裏他的精神極為煩惱苦悶，他後來回顧時，視為自己的道德大修煉。但在這個過程中，他沒有起過回家的念頭。相反，他以堅定的信心開始修造戰船，修改軍營製度。他在湘陰的失敗多少是偶然性的，並且是難免的，但針對嶽州之敗，他認為自己犯了四條大錯。第一，部隊起床不夠早。從此以後，官兵必須在黎明前起床並吃完早餐。第二，軍營不夠牢固，將來必須修建得更為堅實，要有高而厚實的圍牆，周圍有寬8尺深6尺的壕溝，還要挖掘一道淺溝，底部埋設尖竹簽。第三，全軍未能合作一處。他在嶽州隻率領5000人中的一小半，其餘都分散了。如果全軍1萬人駐紮一起，他就能夠經受住圍攻。第四，應該逮捕並嚴厲處置行動可疑的人，不可寬宏大量。[3]
[1] 《家書》，1854 年 5 月 12 日。根據這封信和類似的訓令，他的弟弟都未曾通過他的推薦從軍。
[2] 《家書》，1854 年 5 月 16 日。璞山是王錱的字。
[3] 《家書》，1854 年 4 月 22 日。
湘潭大捷部分解除了危機，甚至緩和了皇帝的苛責，他減輕了由於嶽州與靖港失利而給曾國藩的處罰，為湘潭大捷而歡欣，希望湘軍能夠迅速休整完畢，重開征伐，前往湖北、江西與安徽這些受到威脅的地區。[1]
從湘軍的這些失利，以及曾國藩後來在長沙的經曆中，我們可以看出曾國藩的一些局限性，同時也能看出他的一些優點。他沒有受過軍人的訓練，完全缺乏執行軍事行動的技巧。事實上，他不再實際指揮部隊的行動，除非冒著無法預見的危險，被迫靠著搏鬥來擺脫困境。他不缺乏堅強的意誌，表現出了某種天賦。首先是耐性與毅力，借此他可以經受許多人無法忍耐的羞辱和反對；其次是選擇指揮官的能力，因為我們將會看到，他這支小部隊中湧現的人才，在以後的歲月裏將會因戰功而升到文武官場的高位；再次，他思維清晰，有能力把握任何局勢的長遠意義，這有助於他以審慎的方式部署作戰。
在曾國藩任命的湘軍各部指揮員中，湘潭大捷的主角塔齊布非常顯眼。此人早先在與匪幫的作戰中已經表現出他的勇氣，在嶽州時曾被派往湖北邊界，當長沙與湘潭告急時，曾國藩又將他從湖北的戰略要地召回。另一個偉大的指揮官是胡林翼，他至死都是曾國藩的幹城。他擢升很快，1856年就當上了湖北巡撫。至於其餘的將領，其中有些人因為去世而未能升居高位，或者經過多年的鬥爭才出人頭地。其中有羅澤南，於1856年陣亡於武昌；還有水師總司令褚汝航；楊載福與彭玉麟，這兩人後來都當了大官；還有周鳳山與江忠源之弟江忠濟。[2]左宗棠在長沙遭到圍攻時參與了城防，但他現在衙門裏當師爺，幾年後通過曾國藩而出山，率軍先後在江西、浙江與福建作戰。至於李鴻章，雖然曾國藩住在京城時與其很熟，但此刻他還沒有在這場戰爭中出名。
上麵著重提到的塔齊布，現已奉旨出任湖南提督，但是曾國藩發現此人價值太大，不能放棄，於是大力舉薦，朝廷允許他留在湘軍之中。[3]準備工作正在全速推進，曾國藩又建了新的船廠，他們不久就準備開拔了。
[1] 《年譜》：卷三，第 7 頁下欄，第 8 頁、第 10 頁及以下。
[2] 見《年譜》：卷三，第 9 頁下欄；又見湘潭大捷、靖港失利的奏報，以及舉薦名單。各位將領的功績陳述了很長。《奏議》：卷三，第 51 頁至第 56 頁上欄。
[3] 該請求見於 6 月 3 日簽署的奏疏。《奏議》：卷三，第 71 頁。批準的上諭在《年譜》卷三第 12 頁上欄有說明。
然而，就在這個空隙之間，太平軍已分布於洞庭湖西端的整個地區，於6月8日攻占了龍陽，又於6月11日攻占了常德。對付湖北陸上太平軍的作戰，主要由荊州將軍滿族人官文指揮，曾國藩則對付湖南境內的太平軍。他將塔齊布派往嶽州，令胡林翼及其他將領穿過益陽前往常德。太平軍在龍陽擊敗了周鳳山的部隊，胡林翼被迫在益陽停下，從另一條道路前往常德。[1]
為了操縱新造的船隻，曾國藩培訓了新的水兵。到了1854年6月10日，萬事俱備，部隊再次順流而下。[2]
[1] 該請求見於 6 月 3 日簽署的奏疏。《奏議》：卷三，第 71 頁。批準的上諭在《年譜》卷三第 12 頁上欄有說明。
[2] 《年譜》：卷三，第 13 頁下欄；《奏議》：卷三，第 1~5 頁（8 月 4 日）及第10~15 頁上欄（8 月 9 日）。
出於戰略考慮，在進軍湖北之前，必須肅清湖南，特別要防止交通線被敵軍截斷。於是水師與陸軍分3路進兵。西路由胡林翼指揮，已經抵達常德，他的任務是將太平軍擊退，肅清那一地區的洞庭湖港灣。中路是水陸聯軍，由塔齊布與褚汝航指揮，順湘江而下，抵達嶽州（於7月25日收複該城），胡林翼將湖區的敵軍肅清之後，來此增援中路。東路從陸路東進，通過平江，抵達崇陽，此城位於湖北邊界，距離武昌還有約一半路程。
以嶽州為目標的兩路部隊於7月27日遭遇了太平軍幾百艘船的艦隊，將之擊敗。曾國藩認為湖南境內已無太平軍，據此向朝廷奏報，但事實證明他弄錯了。他的奏疏剛剛送走，大批太平軍又溯江而上，來到嶽州，讓曾國藩及其副手們忙活了將近兩個月。不過，官軍上次的勝利是鼓舞人心的轉折，他們打了13仗，贏了12仗。[1]
9月24日，遠征軍準備順流向湖北進兵，但是崇陽的陸軍遭到太平軍大部隊的阻擊，沿湖岸還散布著太平軍的一些軍營，必須首先搗毀。[2]曾國藩率塔齊布從嶽州派去增援崇陽的部隊，將太平軍從羊樓司擊退（9月18日），並於9月25日在崇陽協助友軍攻取了太平軍的基地。太平軍逃跑了，湘軍緊追不舍，直達鹹寧，將之擊敗。大約與此同時，滿族人將軍官文從荊州派出5000人，在嶽州長江下遊援助曾軍，於是曾國藩得以在10月2日將大營移駐該處。