曾國藩並不是那種得意忘形的人。攻克武漢，將湖北境內的太平軍驅出後，曾國藩“細察大局”，為幾個問題大為耽心。一是湘軍水師雖屢立戰功，但搶奪戰利品過多，私藏貨物，大有“飽則思之意”。加之嶽州之戰正值酷署，戰勝後向朝廷保奏的時間稍晚了一點兒，將士便心生怨憤，時常露出不滿之言。這就是勝仗打得多了，反而使將士“誌驕氣溢”，“暗伏挫敗之機”。二是從武昌、漢陽逃走的太平軍還有數萬人，從嶽州到金陵數千裏，“久已淪為異域”，如果繼續挺進，就會陷入四麵臨敵的困境，稍有閃失，就會前功盡棄。三是湘軍人數雖有增長，但離開湖南作戰之後，軍餉、子彈難以接濟，容易引發兵勇嘩變。
曾國藩認為現在雖然“機勢大有可乘”，但由於存在以上三大問題，“步步艱難，又不能不熟思審度”。鹹豐四年八月三十日，曾國藩將他的疑慮上奏清廷，實際上他不同意立即率師東下。但清廷認為，太平軍可傳鼓而破，因此令曾國藩東下。
曾國藩率湘軍取得田家鎮大捷後，認為“東南大局，似有轉機”，這是他出山以來第一次對戰事做出樂觀的判斷。講究辭章的曾國藩在上奏時用了一個“似”字，接著就講了他的更深一層的憂慮。那就是太平軍經此打擊，雖損兵不少，但主要人員“傷亡者無多”。按照“擒賊先擒王”的說法，他認為太平天國的領導陣營沒有損傷。 麵對清廷令他直搗金陵的命令，他隻好把久蓄心中的隱憂上報，上報的判斷有兩點：一是“初慮江麵不清，或成割據之勢”，憑借湘軍現在的實力，還不能把太平軍全部驅逐出長江。也就是說，他對進攻下遊沒有把握。如果時機不成熟而發動進攻，就可能被太平軍攔截，就會出現割據之勢。但鹹豐帝的判斷並非這樣悲觀，朱批曰：事或不至如此。
曾國藩的另一判斷是：“若剿辦得手，又慮江麵一清，或成流賊之患”。因為太平軍的主力沒有受到大的損失，尤其是陸師還有相當實力。如果直搗金陵，太平軍水師就會四處旁竄，形成四處作戰的局麵。而清廷賴以作戰的軍隊實在不多，那樣的話，後果可能不佳。曾國藩的意圖是“聚而殲之”。對這一判斷，鹹豐帝表示讚成，朱批說“實在意中”。但兩者相權，清廷希望選擇後者。因此，曾國藩隻好繼續行進。 實際上，曾國藩還是過高估計了湘軍的力量。他設想的第二種結果就是他滋長驕氣的反映。他上奏鹹豐帝道：“諸路帶兵大臣及各省督撫，擇要堵禦”，要各地作好防止太平軍從金陵逃跑的準備。 對曾國藩及湘軍的驕愎之氣，既是局中人又是好友的左宗棠發現了。他認為其時湘軍“將士之氣漸驕，主帥之謀漸亂”，多次寫信給曾國藩、羅澤南等，勸他們審慎從事，切戒“輕進”。但曾國藩不作書信回答。左宗棠稍後在致夏廷樾的信中說：“滌公自田鎮以後，頗露驕愎之氣，弟數與書而不一答，蓋嫌其太直也。”
羅澤南倒是有些警覺。他回信給左宗棠說：“也許你以為我會忌其言之太直，我此身日在過中，力求藥石而不得，敢忌醫乎？！你所說‘驕之弊宜若易免，然時時對勘亦若為難’，誠有道之言。”羅澤南還在信末寫了一道詩；
事業極伊呂，浮雲過太虛；
矧茲一戰績，已出二年餘。
意思是說：即使如伊尹、呂尚的王佐事業，也不過如浮雲掠過太空；何況湘軍這一戰績，已遷延了二年多才得手，有什麼可以值得驕傲呢？！
曾國藩何嚐不知“驕兵必敗”的道理。《中興別記》說，曾國藩看問題往往從終極目標向上推及，並不十分計較具體的“多算少算”，由於他“得諸更曆艱阻者居多”，身曆勝負，因此也絕不是昏頭的人。但湖口之戰卻應驗了驕兵必敗這一軍事常識。 太平軍自武昌、田家鎮敗後，迅速調整部署：由翼王石達開坐鎮安慶，指揮西部戰事；英勇善戰的林啟容防守九江；又命著名戰將羅大綱自皖南進攻贛北，紮兵於湖口對麵的梅家洲；黃文金自湖口攻都昌，以策應九江守城。太平軍精兵強將雲集九江、湖口，擺上了誓與湘軍決一雌雄的陣勢。
九江古稱潯陽、柴桑。秦設九江郡，有“江到潯陽九派分”之說，故名九江。它位處江西北陲，長江中遊南岸，廬山北麓，東瀕鄱陽湖。九江“襟江帶湖”，雄據三省要衝，又素有“江西門戶”之稱，因此為曆代兵家必爭之地。三國時，東吳名將周瑜曾在九江西南的甘棠湖演練水師。一千多年後，南宋抗金名將嶽飛，曾率嶽家軍屯駐江州（九江），將金兵鐵騎阻於江北。不久，嶽母病逝鄂州（武昌），嶽飛扶櫬順江而下，將深明大義的母親安葬在九江株嶺山。六百年後，這裏又成為太平天國與湘軍進行生死較量的戰場。 九江的爭奪主要靠水師。太平軍吸取武昌、田家鎮的教訓，水師已經整頓。因此在九江前的幾次小型戰役中，專用戰船，輔以小劃子，不用民船。作戰時緊貼兩岸，與陸營配合，不斷轟擊。並每夜從岸上向湘軍戰船投擲火球，又用戰船放炮，隨火船衝出，以亂敵陣。雙方相持多日，互有傷亡。曾國藩在奏報中分析“水師苦戰”、“局勢為之一變”時說：（太平軍）水中屢次大敗。皆因民船太多，被我燒毀，頓失所恃，賊眾奔潰。此次民船甚少，純用大小戰船，抵死抗拒；又以兩岸及洲中營盤木排互相保護，局勢為之一變。欲攻江中之船，必先破北岸之賊；欲攻北岸之小池口，必先破黃梅、大河埔、孔壟驛之賊。臣塔齊布督同諸陸軍，惟當攻克黃梅，掃蕩諸處，速至江岸與水師會合夾擊。一俟剿辦得手，再行渡江會攻九江郡城。
太平軍由於水陸協同作戰，以及太平軍水營船隊的整編，給湘軍水師攻占九江帶來了新的困難。十一月初，湘軍陸路由塔齊布、羅澤南率領，克複鄂、皖、贛三省交界之要塞黃梅，這也是被曾國藩稱為“以寡擊眾，並不用虛聲奇計，專以紮硬寨，打死仗為能”的一次大戰。與陸路獲勝相比，湘軍水師在十一月初也對太平軍展開攻勢，但多次遭到太平軍的頑強抵禦，無獲收兵。善於總結經驗的曾國藩認為：
我師兩次苦戰，卒未能大挫凶鋒，皆因兩岸賊營太多，水陸依護，抗拒甚力。而我師與陸軍隔絕，孤懸大江，介處賊營之中，晝夜戒嚴。該逆每夜以火球、火箭近岸拋擲，連日雨雪交加，師船泊中洪則為風波所撼，泊岸邊則為陸賊所撲，故日來水軍勞苦，有倍過於田鎮以上者。
他還總結出近日軍事有可憑依的三個方麵，與可憂慮的三個方麵。可憑依的三個方麵是：民心發生轉移；餉需源源不斷；軍中和衷共濟。並於軍中和衷共濟，他頗為得意地說：
軍興以來，多以意見不合、將卒不和貽誤事機。臣等一軍，勇逾萬餘，兵僅數百，其管帶之員，文職多擇取士紳，武職多拔取末弁，有夙昔之恩誼，無軍營之氣習；不特臣國藩、臣塔齊布二人親如昆弟，合如膠漆，即在事人員，亦且文與武和，水與陸和，兵與勇和，將與卒和，糧台官紳與行間偏裨，均無不和。全軍二萬人，幾如家人骨肉之聯為一體，而無纖芥嫌隙之生於其間。
俗話說，人心齊泰山移。曾國藩出征以來，並沒有特殊的陣戰兵法，他的胸中也沒有裝下多少孫吳諸葛之計。他靠的是規取大勢，靠的是打硬仗，紮硬寨，而最重要的是一個“和”字。這也是區別八旗綠營之國家正規軍的最重要一點。昔日軍營的“敗不相救”，終於改造成今天的“勝則舉杯相慶”，確實來之不易。 但曾國藩也有憂慮。他提出的大可憂慮的三個方麵是：由於太平軍水陸相依，大小船互出，使曾國藩找不到破敵之法；太平軍愈聚愈多，而湘軍以“長征之卒，無生力之軍，轉戰千裏，筋骨勞困”，疲於奔命；將領中勇多而謀少，獨當一麵者，殊難其選。 曾國藩表示“步步謹慎，不敢稍涉疏虞”。很顯然，湘軍不利於持久戰，其失敗的端倪已經出現。
十一月中旬，湘軍水陸近三萬人陸續抵達湖口、九江城下。清廷按曾國藩所請，調兵遣將，餉項戰械，無一不準。清廷又以其“調度有方”，賞給他黃馬褂一件、玉靶小刀等物，“以示優獎”。 但湘軍在湖口、九江遇到了勁敵。曾國藩原以為“九江一郡，指日可破”，不料兩處太平軍“守備日固，人數亦日增”，“其堅悍凶頑，實出意料之外。”
太平天國的英雄羅大綱真的把湖口變成了一道天然屏障。他用木排數十丈橫亙江心，“排側有炮船，排外有鐵鎖、篾纜，層層固護，兩岸營牆，百炮轟擊，皆以堅守此排”，湘軍“百計攻之，終不能衝入排內。傷亡愈多，軍心愈憤。”
當時，太平軍駐守九江的將領是著名驍將林啟榮。他能攻善守，將九江變成一座堅不可摧的長城，有力地頂住了湘軍的攻勢，使曾國藩的一切招數都不能奏效。連羅澤南也不得不承認，太平軍守城，平日“靜若無人，夜無更柝號火”，湘軍一至城下”則旗舉炮發，環城數千堞，旗幟皆立如林”，稱讚林啟榮善守，是太平軍中“一將才也”。曾國藩見連日攻城毫無效果，便親自趕到九江城外與塔、羅會商，決定將湘軍陸師分為兩支，一支由塔齊布率領繼續攻城，一支由羅澤南率領進駐湖口城外的盔山，與胡林翼合力進攻梅家洲，以牽製湖口太平軍，割斷九江與湖口的聯係。起初，石達開與羅大綱皆坐鎮九江調度指揮，今見湘軍分兵進攻湖口和梅家洲，亦相應改變部署，由林啟榮守九江，石達開守湖口，羅大綱守梅家洲，深溝高壘，堅壁不出，使湘軍在頓兵堅城之下，寸步難進。
十二月初，曾國藩親自督導，仰攻九江，多日不下。遂改變戰略，舍堅攻瑕。十二月初十，胡林翼、羅澤南率湘軍陸師發起對梅家洲的攻擊，太平軍一次次將湘軍擊退。水師自初六開戰後，太平軍采取誘敵之策，連夜將大船鑿沉江心，用砂石墊實，僅西岸留出隘口，用篾纜相攔。初十，湘軍水陸一同向隘卡攻擊，太平軍三麵放炮，湘軍受重挫。由於太平軍先用少數小船不斷襲擾湘軍水師，使其日夜不得安寧。湘軍屢被襲擾而又求戰不得。1855年1月29日，太平軍在湖口至姑塘四十裏江麵，用民船等數十隻且戰且退，把湘軍舢板等輕便戰船一百二十多艘誘入鄱陽湖內，然後塞斷湖口水卡，修築工事。安裝大炮，將其死死地封鎖在湖內。從此，湘軍水師被肢解為外江和內湖兩部分。外江水師隻剩下運轉不靈的長龍、快蟹等大船，喪失了作戰能力，陷於被動挨打的境地。當日夜間，駛入湘軍船隊中的太平軍小劃與岸上的太平軍互相配合，不斷投擲火球、火罐等引火之物，共燒毀湘軍大船九號，中等船隻三十號。湘軍水師“屢勝之餘，變起倉卒，快蟹、長龍等船掛帆上駛”，李孟群、彭玉麟等不能禁止。湘軍水師大船逃到九江大營。
曾國藩聞訊後焦灼不安，因為戰船損失事小，而湘軍賴以取勝的輕便小般以“二千精健之卒，陷入鄱湖內河”，已被太平軍水卡隔絕，內湖水師軍無統將，輜重阻隔，漂泊章鄱之間。“外江所存多笨重船隻，運棹不靈，如鳥去翼，如蟲去足，實覺無以自立。”曾國藩隻得急忙調回正在武穴養病的楊載福，以統率原來由他帶領的那部分水師。在陸軍方麵。曾國藩也重新作了調整。他見長江北岸小池口被太平軍重新占領，前支奪壘的周鳳山營又大敗而歸，遂放棄對湖口的進攻，將駐紮盔山的胡林翼、羅澤南調回九江，以集中兵力，加強對九江的攻擊力量。就在羅澤南回到九江的當天晚上，即1855年2月11日夜間，太平軍對湘軍水師再次發動了更大規模的襲擊。這天晚上月黑迷漫，咫尺莫辨。
太平軍分別從九江與小池口駛出小船三十艘，挾帶各種火器，鑽入湘軍船隊放火延燒。湘軍水師頓時大亂，紛紛掛帆上逃，大小船隻損失無數。曾國藩坐三板督陣，嚴禁黑夜開船，但因江闊船多，不能禁止。太平軍用小劃船數十隻，將曾國藩坐船團團圍住。曾國藩的管駕官、監印官全部死亡，“文案全失”。曾國藩在即將被太平軍俘獲的危急關頭，投水自殺，被幕僚救起。用小船送入羅澤南營中。他遙望江內水師紛紛潰逃，隻餘少數船隻停泊在南岸羅澤南營傍邊，情景十分淒涼。念及自己花費數年心血，慘淡經營起來的湘軍水師，竟遭如此下場，深感大勢已去，羞憤難當，遂欲效仿春秋時晉國大將先軫之為，策馬赴敵而死，慌得羅澤南、劉蓉緊緊抓住馬韁，眾幕僚寸步不離。 湖口大敗，湘軍“以極盛之水師”，受到重挫。幾天後，曾國藩還心有餘悸地向幾位弟弟述及“二十五夜之變”：“而兄之座船被失，一軍耳目所在，遂覺人人惶愕，各船紛紛上駛。自九江以上之隆坪、武穴、田家鎮直至蘄州，處處皆有戰船，且有棄船而逃者，糧台各所之船水手盡行沉竄。此等情景，殊難為懷。現率殘敗之水師駐紮九江城外官牌夾，兄住羅山陸營之內，不知果能力與此賊相持否？” 具有諷刺意味的是，就在曾國藩幾乎被太平軍俘獲的當天上午，鹹豐帝頒賞的黃馬褂等物“頒到軍營”。曾國藩還沒有細細欣賞皇帝的欽錫寶物，就在當天夜裏又一次經曆了生死之變。據他寫給家人的信中說：
二十五夜之變，將班指、翎管、小刀、火鐮失去。茲遣人送回黃馬褂一件、福字一幅、荷包三對。兄船上所失書籍、地圖、上諭、奏章及家書等件，甚為可悚；而二年以來文案信件如山，部照、實收、功牌、帳目一並失去，尤為可惜。莘田叔解戰船來，離大營止少一二日，竟不能到。軍家勝敗本屬無常，而年餘辛苦難補涓埃，未免心結。二十九日，羅山率湘勇渡江，剿小池口之賊，又見挫敗，士氣愈損。現惟力加整頓，挽回元氣，不審能如意否。
可見湖口之敗對曾國藩及其湘軍士氣的打擊是相當大的。這也是曾國藩進入江西境內三年“受辱受挫”的開始。
太平軍在湖口、九江襲擊湘軍水師成功後，分三路發動反攻。東路由小池口向北進發，連下黃梅、廣濟，將湖廣總督楊霈一直追到漢口；中路由九江逆水而上，沿途攻占蘄州、黃州，追至武漢；西路由富池口渡江，經興國攻武昌之背。2月23日太平軍重占漢陽，並對武昌發起攻擊。曾國藩即派胡林翼、王國才兩部以及水師中的李孟群、彭玉麟回援武漢，實則是讓水師去金口修複船隻。不久，留在九江域外的楊載福水師遭到風浪襲擊，三十多條船被完全毀掉，其餘七十多條亦破爛不堪，不能使用，隻好退回湖北金口一帶補充修理。這樣，湖北武穴以下江麵再沒有湘軍船隻，
重新成為太平軍水師的天下。4月3日，太平軍三克武昌，並重新控製了湖北的大片地區。
二、惶惶終日，赧顏入江西
湖口慘敗，武昌又失，致使曾國藩苦戰半年打下的城鎮得而複失，湘軍精銳潰不成軍，水師被肢解內外兩支。
這一次慘敗，是曾國藩自己所說的“平生四大慚（恥辱）”之一。九江是曾國藩經曆的“滑鐵盧”。鹹豐五年正月十二日，他神情沮喪地離開了九江，於十六日到達江西省會南昌。敗軍之將不言勇。作為打敗仗的侍郎，曾國藩來到了南昌，又一次開始了“寄人籬下”的日子。沒有歡迎的人群，也沒有地方官的出城相迎。這裏的第一官——江西巡撫陳啟邁是他的同鄉、同年，可是，在這個崇尚成功，蔑視失敗的社會裏，他也沒有來迎接。走入江西，他自己後來說：“乙卯（鹹豐五年）九江敗後，赧顏走入江西，……丙辰（六年），被困南昌，官紳人人目笑存之。”真是“赧顏”。 但曾國藩不服輸。湖南山裏人的倔強，曾家血脈流淌著的剛毅，以及矢誌不渝的報效情懷，都沒有使曾國藩垮下去。自己畢竟才四十五歲。“長毛”還在發展，曆史還會給他許多機會，也允許他失敗。