曾國荃領了主攻金陵的任務後，便和曾貞幹一起率領吉字營、貞字營雄心勃勃地向東開拔，一路斬將奪關，從蕪湖、太平府打過秣陵關、方山，來到金陵城南門外雨花台，將老營設在報恩寺塔廢墟邊。這座建於南宋的寶塔高達十三層，頗為壯觀。鹹豐六年天京事變時，北王韋昌輝害怕翼王石達開回師攻天京時憑籍此塔攻城，於是這座曆時七百餘年的寶塔便被韋昌輝拆毀了。
曾國荃和他的心腹大將李臣典、蕭孚泗、劉連捷、彭毓橘、朱洪章等人都是第一次來到這座江南名城。他要韋俊帶著他和部將們遠遠地從南門附近走到太平門邊，一路細看漫議，費去了整整一天。韋俊告訴他，金陵圍牆三成隻走了一成。曾國荃等人大吃一驚，心裏想：吉字營、貞字營合起來隻有兩萬多人，要想像過去圍吉安圍安慶一樣包圍天京，豈非夢囈！一向倔強自負、蠻橫不計後果的曾國荃，雖有點後悔不該輕率進兵，但事已至此，也隻有硬著頭皮挺下去了。曾國荃命令全體將士在雨花台一帶深溝高壘，建築堅固的工事，作長期圍下去的準備，一麵盼望其他各路人馬早點來到金陵城下。哪知進軍金陵的其他幾路各有各的難處。
北路主帥、安徽巡撫李續宜剛準備出師，忽接父喪凶信，匆匆回家奔喪，部將唐訓方率部受阻於壽州，不能南下。鮑超則被阻於寧國，也欲進不能。多隆阿剛啟程幾天，朝廷便命他為欽差大臣開赴陝西，西路也因此沒有了。水師因要修補戰船，等待從廣東運來的洋炮，也暫在池州至銅陵一段江麵上逡巡不前。五路人馬，其餘四路都不能按期抵達，曾國荃在雨花台氣得暴戾失常，曾國藩在安慶也急得日夜不安。每天晚上臨睡前，曾國藩都要到三樓的小房間裏去一趟。那間房子裏放著一個舊蒲墊，曾國藩跪在蒲墊上默默地對天禱告，求老天保祐各路軍事順利，早點拿下金陵。
曾國藩的禱告不但沒有為湘軍求來福祉，一場瘟疫反而突然在金陵城外蔓延，給雨花台畔的湘軍帶來巨大的災難。僅僅隻有幾天時間，湘軍就死去三百多人。一個營房裏，隻要有一人得了病，便會立即擴散開去，早上看著還是好好地，晚上便僵臥不起了。連夜派出十人抬屍出去掩埋，回來清點人數，就隻剩下五人；打著燈籠火把去找時，沿途看到的則是五具倒在路邊的僵屍。曾國荃惶恐不安，四處延醫尋藥，附近的藥買光了，又派人遠到安徽、湖北等地去買，藥未買來，人又死了一千多。李秀成趁此機會大舉向雨花台進攻，曾國荃不得不率領病贏士卒抵抗，弄得焦頭爛額，痛苦萬狀。李秀成進攻了幾次，部卒也染上瘟疫，嚇得他不敢再與湘軍接觸，才使得吉字營從瀕於全軍覆沒的邊境上得以解救。
正當曾國荃稍稍喘口氣的時候，貞字營統帥曾貞幹忽染瘟疫死去了。貞字營被合並到吉字營中。噩耗傳到安慶，曾國藩聞之傷悼不已。曾國荃孤處雨花台，連遭不幸，使曾國藩日夜為之心神不安。他希望老九暫時撤離雨花台，與鮑超的霆字營合兵一處，但老九不同意。於是曾國藩寫信給在家守製的李續宜，請他墨絰視師，速帶北路軍南下，卻不料李續宜自己已病入膏盲，不能應命。曾國藩又命李鴻章將程學啟的開字營二千將士開赴雨花台，但程學啟打仗勇猛，李鴻章正依靠著他，不願放出，隻同意調吳長慶前去。曾國藩知吳長慶的慶字營多為未經訓練的新勇，幹脆不要了。他在安慶為滿弟舉行完吊唁儀式，親將靈柩送上西行的大船後，便立即乘船東下，他要去查看吉字大營在雨花台畔的駐紮情況。
臨行時，曾國藩又把當年王世全送的那把王氏祖傳寶劍帶上，心裏作了決定：先盡力說服老九暫時撤兵，如果他堅決不撤，則以此劍相贈，鼓勵他早日達到目的。
太平軍水師自田家鎮之役大敗後，便一蹶不振，以後周國虞兄弟相繼戰死，水師也便基本瓦解了。千裏長江江麵上，全是湘軍水師的戰船，隻是緊靠天京一段江麵上，太平軍陸軍在幾個重要關口上建築了堡壘，加強防守，使得湘軍水師不敢闖進來。這幾個重要關口，由西向東依次為：大勝上關、鳳林洲、永定洲、三汊河、九洑洲、老江口、草鞋峽、七裏洲、燕子磯。曾國藩的座船在離大勝上關二十裏路遠的落星寺停了下來，坐進了早已在此等候的綠呢大轎，在彭毓橘指揮的三百名湘勇的保護下來到雨花台。
一連幾天，曾國荃陪著大哥查看金陵城外的地形以及吉字大營二萬多人馬的分布情況。這時瘟疫已經過去，軍營剛剛恢複元氣。曾國藩見九弟的營盤紮得牢實，堡壘堅固，壕溝挖得又深又寬，很是滿意，邊看邊稱讚，使沮喪了大半年的曾國荃心情舒坦起來。
“沅甫，盡管如此，吉字營還是要暫時先撤下，等北路到達江北，霆字營進入溧陽後，再三路並進包圍金陵。”在曾國荃的老營，當屋子裏隻剩下他們兩兄弟的時候，曾國藩又一次勸說九弟。
“大哥，屯兵金陵城下，飲馬秦淮河邊，從出山到長沙辦湘勇的那一天起，你就立定了這個誌向，盼望十年之久的這一天終於到了。現在瘟疫已經過去，軍營恢複了生氣，正宜一心一意在這裏作攻城的準備，豈能言退兵？”曾國荃雖沒染上時疫，人卻比在安慶時要黑瘦多了，不過說起話來，仍和過去一樣的虎虎有生氣。