太平軍守安慶，其策略在於守險不守陴。安慶之險在集賢關，因此太平軍便將重兵都投入到了集賢關，以阻止迫近安慶的湘軍。曾國荃則采用長壕法對付太平軍，即在安慶城的城牆之下挖了兩條很深很寬的壕溝，湘軍居於兩壕的中間，內壕的作用是圍攻安慶，外壕的作用是抵抗增援的太平軍，曾國荃也因此被人們稱作“曾鐵桶”。當時，安慶城內的一萬多名太平軍已被四萬湘軍圍困了一年的時間。湘軍在城外挖了三道長壕，使城內太平軍很難從包圍中突破出去，城外太平軍也很難衝到城內增援城內部隊。陳玉成雖然在菱湖築壘十八座，又派了一千多士兵到城內幫助防衛，還向城內送去糧食，一時間把安慶的局勢穩定住了。但由於從各地前來增援太平軍的部隊，包括從天京來援的洪仁、林紹璋部，從蕪湖來援的黃文金部和撚軍，從廬江來援的吳如孝部，都在掛車河、練潭一帶遭到了湘軍多隆阿等部的狙擊，無法會合陳玉成部。陳玉成在集賢關內孤軍奮戰，對曾國荃的圍軍根本無能為力。
湘軍從鹹豐九年底太湖之役吸取了經驗，這次所采取的方法依然是圍城打援。曾國藩一而再，再而三地教給曾國荃一個個圍城竅訣，教他必須恪守“堅靜”二字。他說：“凡軍行太速，氣太銳，其中必有不整不齊之處，唯有一‘靜’字可以勝之，不出隊，不喊呐，槍炮不能命中者不許亂放一聲。”他囑咐兩兄弟要在拚命堅守上既達成共識，又通力合作。他還對戰事進行了一般性的概括總結，說：“凡辦大事，半由人力，半由天事。如此次安慶之守，壕深而牆堅，穩靜而不懈，此人力也；其是否不致以一蟻潰堤，以一蠅玷圭，則天事也。”就在這個時候，曾、胡既布置多隆阿部在桐城一線對於東麵來的林紹璋援軍繼續狙擊，又從長江南岸調來鮑超部對於西麵來的陳玉成援軍進行狙擊，還派胡達軒三營、成大吉七營分別進駐石牌和集賢關外，拖住太平軍的後腿。他們的目的是要將安慶奪回來，而行動方向卻是對太平軍援軍的有生力量進行打擊和削弱。這個圍城打援的戰略，最初是胡林翼在太湖之役中提出的。他說：“用兵之道，全軍為上，得地次之。今日戰功，破賊為大，複城鎮為下。古之圍者，必四麵無敵；又兵法，十則圍之。若我兵困於一隅，賊必以弱者居守，而旁軼橫擾，乘我於不及之地，此危道也。然不圍城，則無以致賊而求戰。”這一策略無疑是非常正確的，它不但使湘軍在太湖之役中取得了勝利，也使湘軍最後在爭奪安慶這場戰鬥中取得了勝利。
當曾國藩聽到五月初一日“殺三壘真正悍賊千餘人”的消息時，他立即判斷說，陳玉成部必會因此而氣勢大衰，並說：“平日或克一大城、獲一大捷，尚不能殺許多真賊，真可喜也。”他特別注意劉林，認為這個人英勇善戰，並因為尊敬他的為人，稱他為先生，“愛其人，故稱翁”。並對曾國荃等人囑咐說，不要讓劉林這人跑掉了。劉林被俘獲後，楊嶽斌將他肢解，並割下首級送到安慶城下示眾。劉林部覆滅後不久，集賢關內的八千多名太平軍，也因孤立無援，先後在戰場中喪了命。至7月，安慶城外所有的太平軍據點都被消滅了。
陳玉成部因為多隆河在掛車河的狙擊，無法援助城內的太平軍，隻得與洪仁玕、林紹璋、吳如孝、黃文金、楊輔清等率領的四萬多名太平軍，從湖北蘄州繞道過去，經宿鬆、石牌，於七月十五日再次向集賢關發動進攻。這時，安慶城內很長時間缺少糧食，但太平軍戰士還是列隊西門上，遙遙地呼應著增援部隊。陳玉成率部苦戰了好幾天，抱草填壕，雖血肉橫飛，仍然不停止衝鋒活動；城內饑憊之卒，幾乎連舉刀槍的力氣都沒有了，還奮勇殺出。可惜最終還是無法越過湘軍的深溝高壘，不能會師。八月初一湘軍轟倒北門城牆，蜂擁而入，城內到處都有人在屠殺、搶劫。
陳玉成等遙見城內火光衝天，又帶領部下進行了兩次衝鋒，卻都失敗了，方引軍西去。多隆河則揮軍追擊，一路攻殺，使陳玉成的軍隊多數潰散，不複成軍，太平天國的一支主力部隊就此覆滅。湘軍水陸配合，趁勢攻占了安徽大部地區，迅速向東推進，直指天京城。