四年春，湖北太平軍大舉南下，占領漢口、漢陽後，威逼武昌。這時，屯兵九江城下的曾國藩卻為或進或退的問題而大傷腦筋。湘軍水陸師是全部回援武漢胡林翼？抑或分軍回援武漢？還是湘軍水陸師全部逗留江西？如果湘軍水陸師全部回援武漢，勢必與太平軍為爭奪武漢而決戰。這對剛剛受挫的湘軍水陸師來說，前途不容樂觀。再說湖廣總督楊霈“結援朝貴”，因人成事，攘功是其所長，曾國藩若回師武漢，有這樣一個婆婆，小媳婦實在難當。他不能不回憶起鹹豐三年（1853年）九月十二日，清政府曾命他為湖北巡撫，以酬其勞，但十月二日，卻忽然又收到解除他巡撫的命令，反而讓他一向反對的陶恩培署理湖北巡撫。如果他全軍回師武漢，與太平軍爭奪武昌，無異是幫陶恩培、楊霈的忙。權衡利弊，他決心拋棄回師武漢的想法。他反複考慮，躊躇再三，上奏說：目前的形勢複雜，湘軍的進止機宜很難處理。現在太平軍大舉進攻武漢，湖北兵勇斷難抵禦。敵軍意圖攻占武漢，將湘軍裹在中段，“錢糧彈藥已截，水勇之心，斷難自固”。如果太平軍攻占武漢，西窺荊州，南伺飭省，防不勝防，“其可慮者一”。如果湘軍撤出江西，全師回援武漢，則艱難百戰取得的戰果，將全功盡棄，實為可惜。湘軍軍餉行將斷絕；且陷入鄱陽湖的輕快水師戰船百餘號，健卒二千餘人，從此斷難衝入長江，永遠不能與外江水師會合。如此精銳之師，無人照料統率，棄置無用之地，今後難圖再振，實為可惜，“其可慮者二”。陸師屢次得勝，士氣本極旺盛。但自從屯兵九江、湖口，仰攻堅城，死傷累累，精銳挫損。“若使回軍武漢，則兵勇之雄心先減，加以遠道跋涉，消磨精氣”，“雖認真振飭，亦難作其方新之氣。其可慮者三”。現在武漢危急，我也難以置身事外，為了救援武昌，我已命令道員李孟群率領部分水師駛回武漢江麵，“毋使上竄之賊，擄船下水。如果大股賊匪占據武漢，水師當全軍回剿，陸軍亦當相機返顧”。
這個奏折剛剛發出，九江、湖口便江風大作，波濤洶湧，水師戰船又被毀傷四十餘號，完好者僅存四十餘號。於是曾國藩命令知府彭玉麟統率殘破戰船和完好者一並駛往武漢的新堤船廠修理，兼防太平軍水師控製漢水；同時命胡林翼、石清吉、王國才等馳援武昌。這樣，湖北布政使胡林翼變成了湘軍水師可靠的保護人。曾國藩的算盤是處處為自己和湘軍精打細算，“一子不落虛空”。四年二月二日，曾國藩離開羅澤南陸營，前往南昌。臨行前囑咐羅澤南、塔齊布督率湘軍八九千名，繼續撲犯九江。曾國藩滯留江西，湘軍陸師續犯九江，但對西征軍來說已是無足輕重，至於湘軍水師分為兩個攤子，對太平軍更加有利。二月六日，曾國藩率少數隨從到達南昌，與江西巡撫陳啟邁同城辦公。
陷入鄱陽湖的水師，輜重衣物全部丟失，由於舢板小，不能燒飯，不便住宿。從前舢板都雇有座船，以資舉炊、棲止，自衝入內湖，外江座船盡失，水師弁勇已“露外半月，饑凍備嚐”。二十九日，湘軍內湖水師（即鄱陽湖中的輕快水師）沿贛江開往南昌，江西巡撫陳啟邁“給以口糧，優以犒賞，眾心始安”。曾國藩與陳啟邁商定，將江西造成的長龍三十號，撥歸湘軍內湖水師應用，又考慮到春夏水漲，“非巨艦不足以壓浪而立營，擬再造快蟹大船十餘號，酌派員弁回楚續招水勇，自成一軍”。三月間，新募平江勇到達南昌，與舊有平江勇合並，共約三千餘人，紮營南康，由候補同知李元度督帶，使鄱陽湖水師有所依傍。這時，皖南太平軍楔入贛東，湘軍得到江西巡撫陳啟邁的支持，不能不“急江西之所急”。三月底，曾國藩命駐紮九江城郊的羅澤南部近四千名馳援贛東清軍，以後，又奔命於弋陽、廣信、景德鎮、義寧等地，“攻守非兵家之要”，所占城池，旋得旋失。
而曾國藩對圍攻九江的陸師，也感到左右為難。繼續強攻，死傷士卒，勞而無功；撤除圍軍，無異承認自己滿盤皆輸，影響士氣與自己的威信。經過權衡他命令塔齊布繼續仰攻堅城。塔齊布百計環攻，一無所得，徒然死傷累累。七月，塔齊布抑鬱憂憤而死。曾國藩遂以副將周風山接統塔齊布軍。
七月二十七日，曾國藩曾召水陸諸將在紫坊聚齊，討論攻武昌事宜。羅澤南將前幾天根據實地考察繪好的地圖從袖中抽出，鋪在木桌上，說：“紫坊出武昌有二道：一洪山大路，一沿江出花園。當以重兵剿花園，而令塔齊布出洪山。”曾國藩大喜。正如羅澤南所言，當時花園集聚太平軍精銳萬餘，築堅壘三：一枕大江，一瀕青林湖，一跨長堤。深溝堅柵，列巨炮無數。次日，湘軍水陸進攻，直趨花園。經激戰七晝夜，終於攻占武漢。羅澤南自此名震遐邇，以能將名。清廷賞戴花翎，任為寧紹台道，加按察使禦。可是，耗盡湘軍大半兵力，得來的武昌旋又被太平軍奪去。羅澤南“太息深憂，歎世變之未已”，解說《周易》聊以自遣。
曾國藩的分兵之策，終於引起胡林翼的不滿。胡林翼初任湖北巡撫時，他自己直接指揮的部隊不過二三千名，另有副將王國才部三千名左右，也歸他節製調遣。湘軍水師共約七八營，戰船一百二十餘號，其主力歸知府彭玉麟指揮，另外有三營歸道員李孟群指揮，也總統於胡林翼。胡林翼部陸師與彭玉麟部水師駐紮武昌之西的金口，進可以反撲武昌，退亦足以限製武昌太平軍西進，屏蔽湖南。金口山勢微高，足以避風濤。李孟群率湘軍水師與王國才部駐紮長江北岸、漢陽之西的沌口，進可以進犯漢陽，退亦足以自守，防止太平軍西上荊州。湖南官紳認為胡林翼是湖南人，所部主力又是湘軍，他所處的地理位置，使他能成為湖南的屏障。因此，湖南官紳全力支持胡林翼，協助他發展軍事力量，“湖南紳局添新勇二千餘名”，“又經湖南撫臣檄飭守備諶瓊林帶兵六百名援鄂，均於三月二十九日、二十五日到金口會齊”。胡林翼所部兵力增強一倍左右，於是時而攻擊漢陽，時而進犯武昌。但防守武昌、漢陽的太平軍卻鬥誌昂揚，屢次打退敵軍的攻勢。胡林翼部屢戰屢敗，軍心渙散，士氣低落。
鹹豐五年（1855年）八月上旬，漢陽太平軍屢次擊敗湘、楚軍，胡林翼被迫親自領兵前往應援，而以李孟群率水陸數營防守金口。二日，太平軍分六路進攻金口，李孟群水陸大敗，太平軍攻克金口。胡林翼率軍渡江至漢陽後，會同楊嶽斌、彭玉麟部水師，猛撲漢陽不逞，死傷頗重，狼狽不堪。後來得到金口失守的敗報，大有進退維穀之勢。八日，漢陽太平軍分數路前來進攻，胡林翼強令出戰。這時，另路太平軍從胡林翼軍營後路抄襲而來，胡林翼部竟全軍嘩潰。胡林翼氣憤交加，猛抽坐騎，欲與太平軍死戰。不料，坐騎在曠野上四處狂奔，馬背上的胡林翼已不能控製自己。奔至江邊時，遇楊嶽斌部湘軍水師部司哨官鮑超，鮑超急救胡林翼下船，才幸免於死。這是鮑超受知於胡林翼的開始。
胡林翼及時調整軍事部署，派鮑超到湖南招募湘勇，另組新軍，後稱“霆字軍”。又針對楊嶽斌與彭玉麟分統水師，互相排擠的情況，努力調和兩位將領，據曾國藩的幕僚陳鼐講：胡林翼“調和諸將，出於至誠”。
一次，胡林翼寫信召兩人商談要事。楊嶽斌先至，與胡林翼談得正起勁兒，見彭玉麟走進來，楊嶽斌立即要往外走，胡林翼命其坐下。彭玉麟見楊在，也轉身往回走，胡上前將其拉祝同時令下人備酒三鬥，每人一鬥。酒過三巡，胡林翼聲淚俱下，說：“天下糜爛至此，實賴公等協力支持。公等今自生隙又何能佐治中興之業邪？”兩將大悟，遂和好如初。
之後，胡林翼又提拔楊嶽斌為湘軍外江水師統領，替曾國藩分勞解憂。同時，他又采取了一個非常重要的戰略措施，奏請清政府命令曾國藩分軍增援武昌。他奏陳說：“九江、湖口江麵無水師，即使圍攻經年，賊之往來自便，不如並力從湖南、北節節打通，乃可水陸東下，合於九江。”浙江寧紹台道羅澤南屢建戰功，前次曾國藩派羅進攻義寧，即擬“進剿”武漢，但因塔齊布病死九江，暫回潯陽。“應請敕下臣曾國藩乃派羅澤南一軍，並益以精兵一二千名，迅速由湖南邊界來鄂會剿，若仍株守九江，而賊勢之橫出旁軼，蔓延上遊，似於大局無補”。於是，湘軍內部發生了戰略爭議。