田家鎮大捷之後，曾國藩及湘軍跌入了戰爭的穀底。這個時候，太平軍在翼王石達開的統率下進行了第二次西征。曾國藩從田家鎮繼續揮師東進，躊躇滿誌地迎戰。兩軍的主力聚集在長江江西段一帶，都擺出了決戰的架勢。曾國藩全力進攻九江未果，隻好掉轉方向，把主攻目標對準湖口，想憑借水師的優勢拿下湖口，再攻九江。可是，老天爺彷佛是要故意為難曾國藩，他在這次戰爭中，遭受到了最為慘烈的失敗。
而太平軍在石達開的率領下，於湖口九江襲擊湘軍水師大獲成功之後，全軍上下極受鼓舞。鑒於這種情況，太平軍便決定兵分三路沿長江上行，逐步奪回失去的重要城鎮。並且發動戰略性反攻，打擊湘軍的軍事後方，重新奪回長江航線的控製權。
這樣，太平軍在石達開的指揮下，兵分三路溯江而上。東路人馬由小池口向北進發，接連攻下黃梅、廣濟，將湖廣總督楊霈一直追到漢口，中路由九江逆水西上，沿途攻占蘄州、黃州，直搗武漢。西路由富池口出發，經興國拊攻武昌之背。
鹹豐五年（1855年）2月23日，太平軍重新占領漢陽，並對武昌發起進攻。這一下清政府立時慌了手腳，急忙下令曾國藩派兵回師助剿，援救武昌。曾國藩遂派胡林翼、彭玉麟等人率領湘勇水陸兩路先後回師援鄂。
經過一個多月的苦戰，4月3日，太平軍終於第三次攻克武昌，此次為首的將領是韋俊。接著，太平軍控製了湖北省的大部分地區，使湘軍的後方極不穩定。這時，曾國藩更加相信去年（1854年）9月份攻占武昌後不待後方鞏固，經濟恢複就立即揮師東下的戰略方針是錯誤的。但此時的曾國藩也害怕如果立即退兵回攻武漢，會引起士氣低落，軍心動搖。所以，他寧可頓兵堅城，被動挨打，也不肯撤出江西回爭武漢。這就勢必造成了坐困江西的局麵。
在攻克武昌的過程中，湖北巡撫陶恩培被擊斃城中，總督楊霈倉皇逃出城去。這一消息傳到京城之後，朝野震動。鹹豐皇帝龍顏大怒，立即撤了楊霈的職，任命荊州將軍官文為湖廣總督，胡林翼為湖北巡撫。
太平軍重占武昌後，從武昌到江寧，長江兩岸的重要集鎮，全部又由太平軍控製。江麵上，掛著繡龍杏黃綢緞蜈蚣旗的太平軍戰船來往航行，暢通無阻，太平天國鼎盛的時期到來了。
起初，湘軍陸師在江西約有一二萬人左右。分別由塔齊布、羅澤南、李元度統領。塔齊布手下的人最多，約有6500人。羅澤南次之，約帶領3500人。李元度手中的人最少，隻有平江勇二千人左右。這李元度本來是曾國藩的一個幕僚，眼睛深度近視，從來沒有帶兵打過仗。由於曾國藩湖口慘敗之後，手下無人，李元度便自告奮勇要率領二千人馬，前去彭玉麟內湖水師的駐地南康府與水軍相互依護。曾國藩由於無人可用，便答應了他的請求。但這支隊伍人數不多，戰鬥力也不強。曾國藩在江西主要依靠的還是塔齊布、羅澤南兩部。
湖口慘敗以後，曾國藩又不願回師武漢。無奈之中，隻得繼續圍攻九江。他認為隻要湘軍能夠堅持連續攻城，九江定可不日而下。於是集中優勢兵力，加緊攻城，晝夜苦戰。而太平軍守將林啟榮仿佛看穿了曾國藩的心思一樣，隻是構築工事，堅守不出，硬是把一座九江城守得銅牆鐵壁一般，使曾國藩的一切手段都無法得逞。
就在曾國藩為九江戰事一籌莫展的時候，更大的打擊隨之而來。由於久攻九江不下，塔齊布於8月3日嘔血而死。
塔齊布盛年溘然去世，這對於曾國藩來說是不能想象的事。正是曾國藩將塔齊布由一名都司銜署理撫標中營守備，僅一年多時間內，便迅速提升為湖南水陸提督。塔齊布知恩圖報，盡心盡力為曾國藩打了幾場漂亮仗，為湘勇大壯聲威。曾國藩不能沒有塔齊布，他需要塔齊布為自己帶兵打仗。他更需要他為自己製造一個滿漢親密無間的形象，以消除朝野內外的各種猜忌、嫉妒以及形形色色的流言蜚語。如今在這江西戰局進退維穀，晦暗不明的時候塔齊布竟然長逝了。這對曾國藩的打擊無疑是很大的。
就在這時，太平軍又由湖北回師江西，很快攻占義寧並全殲了曾國藩向南昌派去的援兵。江西省城大為震動。曾國藩急派羅澤南前去援救義寧，以阻止太平軍由鄂返贛。
羅澤南見江西戰場無所作為，就想帶領一支人馬到湖北去建功立業。於是他多次和曾國藩商量，要回師武漢。他認為爭取整個戰局主動權的關鍵不在於能否攻下九江、湖口兩鎮。太平軍上控武漢，下據江寧。九江是其中遊要塞，太平軍必然拚死據守。即使一時被湘軍攻克，太平軍也要盡力奪回。況且湘軍永遠無法擺脫在江西被動挨打的局麵。要想改變目前的不利形勢，唯一正確的補救辦法是立即由他帶領一部分主力西撤，鞏固湘軍的後方。