八次作為國都的南京，於鹹豐三年成為太平天國的都城。清朝的統治受到了比“三藩之亂”還嚴重的威脅。
二月二十一日，即南京被攻陷的第十五天，向榮統帥清軍一萬四千名在南京城東朝陽門外的孝陵衛紮營，這就是江南大營。三月初九，欽差大臣琦善在揚州城北雷墉集紮營，直隸提督陳金綬、幫辦軍務大臣勝保紮營城西北帽兒墩，距揚州三裏，這就是江北大營。江北大營有兵萬人。清廷的戰略明顯處於守勢，即堅決阻止太平軍越過長江，向北發展。當然，伺機進攻江南，以動搖太平天國的基礎，也是戰略的組成部分。按照這一部署，琦善著重布防淮、揚，以期前扼江北，為南岸聲援；後據黃河，為北路屏障。而向榮則相機進兵。由於太平天國於五月自揚州開始北伐，同月又沿長江流域而上展開西征，因此，清軍的作戰區域急劇擴大，形成了在內以天京為中心包括揚州、鎮江的東戰區；在直魯境內和太平天國北伐軍相持的北戰區；以武漢為中心爭奪兩湖的西戰區。由於太平天國定都天京，並據有武漢、九江、安慶，在長江中下遊占有“形勝之地”，而其北伐軍又勢如破竹，打亂了清廷的部署，保守京師成為重中之重。直魯屬於北京的前線，因此把清朝最精銳的力量布置在這裏，這就是僧格林沁、勝保統帶的八旗綠營，並配有從內蒙、東北調來的滿蒙騎兵步兵；東戰區即向榮、琦善統帶的八旗綠營，即江南、江北兩大營；西戰區有駐守湖北，由吳文統帶的綠營兵，以及尚在湖南的湘軍。這樣的兵力部署反映了八旗綠營仍占主導地位，而新起的湘軍屬於配合作戰。鹹豐帝之所以在兩三月間令曾國藩忽而援鄂，忽而援皖，就是認為湘軍屬配合作戰。而曾國藩四拒鹹豐帝的出兵之旨，除了準備不夠外，就是不願充當附庸，在正麵與太平軍遭遇。 但隨著戰局的變化，這種兵力部署結構在不斷變動。即八旗綠營愈來愈弱，由主要降為次要，而湘軍則愈來愈強，由次要上升為主要。此時太平天國的軍事戰略也有調整，那就是隨著北伐軍被阻截，東戰區揚州被圍而告急，西戰區因兵力不足而退出漢口、漢陽，東王楊秀清決定縮短戰線，奪取安徽，再集中兵力繼續西征，攻占兩湖。因此，鹹豐四年春，兩湖成為雙方爭奪的焦點，在很大程度上成為影響全局的關鍵。
吳文統領的綠營兵在黃州附近被殲滅後，湘軍成為兩湖戰場上清軍惟一的主力部隊。隨後，太平軍三克漢陽、漢口，進圍武昌，前鋒直逼湖南北大門嶽州。這樣，湘軍不出戰或出戰而失敗，兩湖就要全部歸入太平天國版圖，大清帝國就要被腰斬，湘軍就因無後方基地而無法維持，大清朝麵臨土崩瓦解的結局。這就是包括曾國藩等在內的臣僚奏折所“不忍言”的“天下大局”。 此形勢下，曾國藩已經無法堅持船炮不精足不能出征的原則，在水師未經訓練、洋炮未到齊的情況下率師出戰，並發布著名的《討粵匪檄》，以圖在政治思想上動員統治陣營的中下層人士，共同向太平天國展開進攻。
文章的開頭極盡詆毀太平軍之能事，文末號召“抱道君子”共起衛道，以及他所認定的太平天國“無論遲速，終歸滅亡”的“預言”外，值得注意的是，文中對太平天國所信奉的天主教的詆毀及對孔孟之道的衛護：
自唐虞三代以來，曆世聖人，扶持名教，敦敘人倫，君臣父子，上下尊卑，秩然如冠履之不可倒置。粵匪竊外夷之緒，崇天主之教，自其偽君偽相，下逮兵卒賤役，皆以兄弟稱之，謂惟天可稱父，此外凡民之父，皆兄弟也，凡民之母，皆姊妹也。農不能自耕以納賦，而謂田皆天王之田；商不能自賈以取息，而謂貨皆天王之貨；士不以誦孔子之經，而別有所謂耶酥之說、《新約》之書。舉中國數千年禮義人倫、詩書典則，一旦掃地蕩盡。此豈獨我大清之變，乃開辟以來名教之奇變，我孔子孟子所痛哭於九泉！凡讀書識字者，又烏可袖手安坐，不思一為之所也！ 自古生有功德，沒則為神。王道治明，神道治幽，雖亂臣賊子，窮凶極惡，亦往往敬畏神祗。李自成至曲阜，不犯聖廟，張獻忠至梓潼，亦祭文昌。粵匪焚郴州之學宮，毀宣聖之木主，十哲兩廡，狼籍滿地。嗣是所過郡縣，先毀廟宇，即忠臣義士，如關帝、嶽王之凜凜，亦皆汙其宮室，殘其身首。以至佛寺、道院、城隍、社壇，無廟不焚，無像不滅。斯又鬼神所共憤怒，欲一雪此憾於冥冥之中者也！
這篇檄文具有極強的煽動性，它針對太平天國的某些政策失誤，煽動中農以上的私有者，孤立太平軍。更為毒辣的是，曾國藩利用太平天國文化政策的致命弱點，采取了積極的反擊。太平天國伊始，所到之處毀孔廟、焚聖像、拆寺院，獨尊“真道書”，同時又宣布“四書”、“五經”為妖書邪說，“凡一切孔孟諸子妖書邪說者盡行焚除，皆不準買賣藏讀也，否則問罪”。如有私留者，搜出即斬首不赦。所過之處，凡學宮正殿兩廡柱皆毀棄殆盡，或堆軍火，或為馬廄。改江寧學宮為宰夫衙。太平天國定都天京之初及以前的這種做法確實破壞了封建綱常倫理秩序，也使中國的傳統文化經受了洗禮，這就使曾國藩動員了以“四書”、“五經”構纂的封建倫常及以此登科入仕的廣大知識分子的力量，使這場圍剿太平天國革命的戰爭有了最廣泛的支持者和同盟軍。太平天國以上帝教為號召，借用基督教來作為反儒家文化的手段。而曾國藩在汲取了孔孟儒學和程朱理學中核心內容去與之抗爭，這對於中國人來說有著更為強大的號召力。於是湖南的封建士子，首先脫掉長衫，率領眾多的農民，歸到湘軍旗下。曾國藩後來為在鎮壓太平天國中死去的湘軍將帥“樹碑立傳”，到處設“招忠祠”之類，實際上也起到了動員地主知識分子的效果。毛澤東也看到了曾國藩在以“檄文”為號召的獨到之處，他後來指出：“洪秀全起兵時，反對孔教提倡天主教，不迎合中國人的心理，曾國藩即利用這種手段，撲滅了他。”
二、出師不利，首次自殺
1854年的春節到了，曾國藩行色匆匆，特意抽出幾天時間於十二月二十七日從衡陽回了趟湘鄉。他在家中受到妻兒家人的簇擁。在熱鬧紛雜之中，曾國藩與他的父親做了一次密談。他告訴父親曾麟書，正月底，他將率領湘軍正式從湖南出發，與太平軍打仗去了。其父聽到這個情況，便告誡他，現在為朝廷辦事很不容易，打仗的事更是急不得，要一步一步地來。又說了許多體貼他的話，並叮囑他一定要注意愛惜自己的身體。 過了大年初二，他就打點行裝趕往衡陽。臨行前又到母親的墳頭去叩了一次頭，燒了幾柱香，希望其母能在陽間保佑他出師大捷。正月初五，曾國藩抵達衡陽。此時湘軍水師已基本成型，隻是沒有經過操練。一周以後，曾國藩接到了軍機處廷寄的上諭，命他“著即遵旨，迅速由長江駛往安徽。”此時，曾國藩派出的探卒不斷傳來他不願聽到的消息，先是廬州失守，江忠源死難，隨後又說吳文出戰黃州堵城大敗，曾國藩已沒有等待的時間。 鹹豐四年正月二十八日，曾國藩自衡州起程，順水而下，至湘潭與待命在此的水軍四營會師。師行至長沙時又裝載軍械幾千件，子藥二十餘萬。盡管長沙離衡陽並不十分遙遠，但自從半年前曾國藩率部離開長沙以來，他一次也沒有來過這裏。其間也有人向他提出，應該回長沙，他卻始終認為沒有這個必要。現在，他的湘軍已經編練完成了。這支部隊雖然還未經過戰鬥，但它已是湘、鄂、皖、贛四省境內規模最大的一支清軍。他的手中有一支湖南任何一位文武大臣都不敢輕視的部隊，有了與長沙官場進行對話的資本。同時，他馬上就要率部與太平軍作戰，這決不是兒戲，更不是一件可以鬥氣的事，他有大量的事情需要與長沙官場中人進行磋商。所以，他的心裏雖然仍在咒罵長沙官場中的一些人，但他還是主動與他們協調關係來了。
二月初二，曾國藩在衡山舟次上奏清廷，稱自己“才智淺薄，素乏閱曆，本不足統此大眾。然當此時事艱難，人心渙散之秋，若非廣為號召，大振聲威，則未與賊遇之先，而士卒已消沮不前矣。是以與撫臣往返函商，竭力經營，圖此一舉。事之成敗，不暇深思，餉之有無，亦不暇熟計，但期稍振人心而作士氣，即臣區區效命之微誠也。”此次“東征”，雖師行倉促，但從船艦裝備上看還是作了精心準備。計有拖罟一號、快蟹十號、長龍五十號、三板艇一百五十號，皆仿照廣東戰艦之式，又改造釣鉤船一百二十號，雇載輜重船一百餘號。所配之炮，共有五百餘位。所募之勇，陸路五千餘人，水師五千人。陸路各軍編列字號，五百人為大營，不滿五百者為小營。水路分為十營，前、後、左、右、中為五正營。正營之外，又分五副營。正營旗用純色，副營旗用鑲邊。所備之糧台，帶米一萬二千石，煤一萬八千石，鹽四萬斤，油三萬斤，軍中應需之器物，應用之工匠，一概攜帶隨行。合以陸路之長夫、隨丁，水路之雇船、水手、糧台之員弁、丁役、統計全軍約一萬七千人。 由於水兵配置不足，而且相當多的水兵是剛剛招募來，甚至連戰陣都沒有演練。因此，曾國藩又在“沿途合操幾次”。公曆3月30日，曾國藩率湘軍水師駐泊嶽州。4月4日，師船猝遇大風，沉沒數十隻，撞傷無數。7日，太平軍進攻嶽州，清軍潰敗。曾國藩自思“水軍亦無固誌”，“大風以後，各船損壞，力難應敵，誠恐輕於一擲，或將戰船洋炮盡以資賊”，乃退守長沙，而曾國藩先派出的湘軍陸營儲玫躬部也大敗而歸，王部幾乎全軍覆沒，除塔齊布一支外，其餘各軍全部退守長沙，曾國藩想不到湘軍如此不堪一擊。太平天國水軍乘勝繼進，南渡洞庭湖而深入湘江，列水營於靖港至樟樹港一帶江麵，距長沙僅60裏。
靖港一帶，汊港紛歧，水陸兩路而旁通湘江西岸之寧鄉、益陽、湘潭等縣，於是太平軍決定一麵以水軍進逼長沙；一麵以陸軍取道寧鄉攻占湘潭，對長沙采取包圍的形勢。有人說，“陸營現已失敗，當趁軍心未散時率水軍進攻，水陸交攻，或可轉敗為勝。”曾國藩認為頗有道理。4月27日，曾國藩召集諸將議戰。當時，太平軍攻占嶽州、湘潭後，兵鋒正直指省城長沙。曾國藩若進入長沙無疑是自困城中。於是有人認為應先攻靖港，奪取太平軍屯駐地；但也有人反對說，“若靖港失敗，退還城下，即入死地”，應該攻湘潭，如果不勝，保複廣州，即使長沙被攻陷，也可再奪回來。曾國藩見眾人你一句，我一語地爭論不休，也沒了主意。這時水師十營官將，公推彭玉麟決定攻守戰略，彭取上策，定先攻湘潭並親率五營先期出發，約定次日曾國藩率五營殿後。
到了夜晚，情況卻有了變化，曾國藩乃改定原定部署。這就是長沙鄉團來請師，說：“靖港之敵隻有幾百人，沒有防備，可一戰而驅之。團丁隻是借大帥旗鼓作威勢，嚇退敵軍，而且已架好浮橋接納大帥，機不可失。”聞者無不踴躍。曾國藩並非想僥幸取勝，但考慮到彭玉麟攻湘潭，這邊攻靖港，可取夾擊之勢，牽引敵軍，於是便改攻靖港。 次日晨，水急風利，曾國藩率五營水師如離弦之箭，乘風而發，不到幾個時辰即達太平軍屯駐的靖港上遊20裏之白沙洲，伺機進攻。但到中午時，老天不做美，西南風陡發，水流湍急，湘軍師船駛至靖港停留不下來，隻得輪番發炮轟擊。太平軍開炮還擊，湘軍水師急落船帆，停泊在靖港對岸的銅官渚。一時陷入被動挨打的境地。太平天國水軍出小劃船200餘隻，順風駛逼敵船。湘軍水營開炮轟擊，由於炮高船低，不能命中。湘軍水師見勢不支，紛紛棄船登岸，戰船或被焚毀，或遭俘獲。曾國藩在白沙洲聞信，急率陸隊援救。但陸隊見水師失利，心懷疑怯，不肯前進。太平軍見狀，出隊迎擊，先是團丁奔逃，湘勇隨後，爭渡浮橋，又由於浮橋是臨時用門扉床板搭成的，人多橋壞，死傷了幾百人。曾國藩見勢不妙，便親執仗劍喝令士兵不退，並立令旗杆上，說：“過旗者斬！”但士兵仍從旗旁相擁而過，於是全軍大敗。
曾國藩神情沮喪地回到坐船上，越想越難過，越想越灰心，便決定跳水自殺，一死了之。幕僚李元度見曾國藩支開隨從，神情有異，便讓章壽麟乘小船尾隨其後，以備不虞。果然，曾國藩行到靖港對岸的銅官渚時，便一頭紮入了水中。章壽麟見狀，躍身入水將其救起。此時的曾國藩確實沒有活下去的勇氣，見章壽麟來救他，還責怪章“何以來此”，章壽麟說：“湘潭我師大敗太平軍，特向大帥告捷。”實際上章壽麟當時還沒有得到湘潭取勝的消息，是臨時“發揮”出來的“告捷”。
曾國藩生前對銅官投水一事，諱莫如深，很多人隻風聞其事而不知詳情。後來章壽麟因為終其生不過一名知縣，便認為曾國藩不肯大力提拔他，故特地寫了一本《銅官感舊圖》，對曾國藩頗有懣怨之詞。此圖詳細記述了曾國藩跳水自殺一事的始末，於是投水一事，後來才公諸於天下。 王運後有題給章壽麟銅官感舊詩一首，詳敘當時情形：
桂平盜起東南卷，唯有長沙能累卵。
三年坐井仰恃天，仡仡孤城見矛。
群凶無賴往複來，潘張遷去駱受災。
閉門待死諡忠節，未死從容居憲台。
曾家嶺枷偏在頸，三家村儒怒生癭。
勸捐截餉百計生，欲與吳江效馳騁。
江湖軍敗如覆鐺，盜舟一夜滿洞庭。
撫標大將縋城走，徐公繞室趾不停。
省城無兵無守禦，卻付曾家作孤注。
空船坐擁木關防，直犯頭刀報知遇。
兵謀軍勢盜不講，上屯湘潭下靖港。
兩頭探手擒釜魚，十日淘河得枯蚌。
劉郭蒼皇各顧家，左生狂笑罵豬耶。
彭陳李生豈願死，四周密密張羅。
此時薺筒求上計，陳謀李斷相符契。
彭兄建策攻下遊，搗堅擒王在肯綮。
弱冠齊年君與餘，我狂君謹偶同居。
日中定計夜中變，我方高枕城東廬。
平明丁叟踏門入，報敗遙聞一軍泣。
督師隻欲泛湘累，主簿匆匆救杜襲。
十營並發計全虛，從此舍舟山上居。
七門不啟春欲盡，強教陳李刪遺疏。
板橋漂破帥旗折，銅官渚畔烽明滅。
誰料湘潭大捷來，盜屯奔迸如崩雪。
一勝申威百勝從，陸軍如虎舟如龍。
時人攀附三十載，爭道當時讚畫功。
駱相成名徐陶死，曾弟重歌脊令起。
隻餘湘岸柳千條，曾對當時嗚咽水。
信陵客散十年多，舊邏頻迎節鎮過。
時平始覺軍功賤，官冗間從資格磨。
憑君莫話艱難事，得失皆天意。
何況當時幕府謀，至今枉屈何無忌。
王運此詩自注為：
（1）曾滌公起義帥，時論以為好事，且曰：“一枷在嶺（領？），肩來在頸。”以嗤其不幹已也。
（2）吳江，指吳文、江忠源。
（3）滌公設匭求謀策，或役紙書三十六“走”字。
（4）君舅彭笛翁猶以攻靖港為上策。
經過靖港一戰，湘軍水師損失慘重，潰不成軍。曾國藩自稱：“是日風太順，水太溜，進戰則疾駛如飛，退回則寸步難挽，逮賊舟來逼，炮船牽挽維艱，或縱火自焚，或間以資賊，戰艦失去三分之一，炮械失去四分之一。”
曾國藩此次出師不利，自殺不成反被部屬救回長沙，據他自稱當時的情景是“為通省官紳所鄙夷”，布政使徐有壬等官吏拿著寫好的參劾稿請巡撫駱秉章參劾曾國藩。 曾國藩誤以為大勢已去，悲觀到了極點，回到長沙後不肯更衣，蓬頭跣足，不飲不食。後又跑到妙高峰上起草了遺疏、遺囑，共計兩千多字，然後密令他的八弟曾國葆替他把棺材買好，他決計在四月初五之夜再一次自。 遺折是這樣寫的：
……臣愧憤之至，不特不能肅清下遊江麵，而且在本省屢次喪師失律，獲罪甚重，無以對我君父，謹北向九叩首，恭折闕廷，即於日殉難。 臣讀書有年，竊慕古人忠憤激烈之流。惟才智淺薄，過不自量，知小謀大，力小任重。前年奉命幫辦團防，不能在籍守製、恭疏辭謝。臣以墨出外蒞事，是臣之不孝也。去年奉命援鄂援皖，不自度其才之不堪，不能恭疏辭謝，輒以討賊自任，以至一出僨事，是臣之不明也。臣受先皇帝知遇之恩，通籍十年，躋卿貳。
聖主即位，臣因事陳言。常蒙褒納；間有戇激之語，亦荷優容；寸心感激，思竭涓埃以報萬一。何圖誌有餘而力不足，忠憤填胸，而絲毫不能展布。上負聖主重任之意，下負兩湖士民水火倒懸之望。臣之父，今年六十有五。自臣奉命剿賊，日日以家書勉臣盡心王事，無以身家為念。凡貯備幹糧，製造軍械，臣父亦親自經理，今臣曾未出境，自取覆敗，尤大負臣父藎忠之責。此數者，皆臣愧恨之端。 論臣貽誤之事，則一死不足蔽辜；究臣未伸之誌，則萬古不肯瞑目。
遺片的內容為：
臣自去歲以來，日夜以討賊為心。曾書檄文一道，刊刻張貼。今事無一成，貽笑天下；而臣之心，雖死不甘。謹將檄文抄呈禦覽，一以明臣區區之誌，一以冀激發士民之心。
臣死之後，皇上必於兩廣湖南擇一討賊之人。陸路之將，則臣去年所保之塔齊布，實為忠勇絕倫，深得士卒心，願我皇上畀以重任。水路之將，難得統領大員，現在湘潭獲勝之褚汝航、夏鑾、楊載福等，均可自將一軍。 臣於二月初間，谘行廣西撫臣勞崇光，續召粵勇一千。三月中旬，又在衡州續造大船二十號，約於四、五月可齊。廣東水師陳輝龍，亦於近日可到。而臣忽以靖江（港）之敗，失去船炮，巨是以愧恨不能自容。伏冀皇上速簡賢員，總統水軍，而以塔齊布總統陸軍。但使滅賊有期，則臣雖死，猶足以少贖罪愆。不勝瞻戀之至。