故此，胡林翼才能在安慶之圍這一關鍵之役，與曾國藩存異求同，共襄大業。曾國藩移師皖南，走前向胡林翼索要鮑超的霆軍，這本是胡林翼手下最具戰鬥力的部隊，他卻毫不猶豫地撥予；而且當鮑超不習慣曾國藩的軍紀，有心改投他人時，他苦口相勸，用一腔血誠彌合鮑超與曾國藩將帥之間的裂痕，致令鮑超發揮大用。曾國藩在皖南遭遇危急，胡林翼忙派李續宜前去救援。本來已累欠軍餉二百萬，前敵將士嗷嗷待哺，又適逢大災之年，而軍情則瞬息萬變，戰機稍縱即逝，更需要他時刻崩緊心弦，他強撐病體，抖擻精神，殫精竭慮，一邊努力籌餉，一邊靠前指揮。起初多隆阿曾強攻桐城，胡林翼堅決製止，讓他不要把力量消耗於攻城，而是保存有生力量用來截擊進援安慶之敵，以致陳玉成自壽州改路南下，欲直接救援安慶，硬是讓多隆阿以及李續宜一次又一次用事實告訴他：此路不通。因為自己誤判陳玉成佯撤的動機，曾令鮑超救援遲緩，招致曾國荃的埋怨，他毫不介懷，連發六函，催促鮑超速往。及至陳玉成聞鮑超來真的撤走，胡林翼本欲派鮑超和成大吉赴掛車河援助多隆阿，知悉曾國藩圍殲安慶城外赤崗領守將劉瑲琳的計劃，“喜幸得於意外”，馬上讓鮑超、成大吉聽從曾國藩的指揮，專意攻壘，務求必克。真可謂鞠躬盡瘁，死而後已，難怪曾國藩驚歎道：“不意朋輩中進德之猛，有如此者！”六曆經十五個多月，至鹹豐十一年八月初一（1861年9月5日），安慶城終於攻陷了。其意義在於，最終拿下南京隻是個時間問題。曾國藩在給鹹豐皇帝的奏折中將胡林翼推為首功：其謀始於胡林翼一人畫圖決策，商之官文與臣，並遍告各統領。前後布置規模，謀剿援賊，皆胡林翼所定。
朝廷授胡林翼太子太保榮銜與騎都尉世職。曾國藩還給病中的胡林翼寫了一封信，信中深情地稱胡林翼為老前輩，因為他永遠銘記鹹豐九年自己初到黃州時的情景，胡林翼待他親如一家，事事關照，每月為他的湘軍協餉三萬兩，主持官員不堪重負，打算裁減一萬，胡林翼則說：滌公忠義冠時，斧柯未具，專恃湖北之餉，無論如何虧欠，此三萬者，必不可絲毫虧欠。
回憶胡林翼當年所謀劃的東進方略，曾國藩真誠地說：“今名城告克，仍不出老前輩初定規模。”安慶城攻陷僅僅過了二十五天，年僅五十的胡林翼便撒手西歸。胡林翼死後，曾國藩哀歎“從此共事之人，無極合心者矣！”認為“潤帥聰明，本可入霸術一路”卻“一味講求平實樸質”。在給朋友的信中更是給予了無與倫比的評價：憂國之誠，進德之猛，好賢之篤，馭將之厚，吏治之精，無善不備，無日不新，同時輩流，固無其匹，即求之古人中，亦不可多得。
因嫌湖廣總督官文的奏疏沒有說透，自己親上《瀝陳前湖北撫臣胡林翼忠勤勳績折》，折中以濃烈的感情陳述了胡林翼戰功、德行、理財三個方麵的業績，其中有言：外省盛傳楚師協和，親如骨肉，而於胡林翼之苦心調護，或不盡知。此臣所自愧昔時之不逮（及），而又憂後此之難繼者也。
朝廷再追贈胡林翼為總督，入祀京師賢良祠，賜諡文忠，待其子長成後由吏部帶領引見。這後一點恰出於曾國藩在折中的奏請。