闔閭死後，夫差即位，在伍子胥等人的輔佐下，積極準備伐越報仇。經過三年的準備，到了周敬王二十六年春，夫差親率大軍，舉行大規模的伐越戰爭。吳軍在夫椒(今浙江紹興)把越軍打得大敗，越王勾踐隻帶五千人逃奔到會稽山(今浙江紹興市東南)上。吳軍把會稽山團團圍住。越國滅亡的命運似乎已經注定了。
處於生死存亡關頭的越國君臣經過緊張的謀劃，決定卑躬屈膝，向吳國請和投降，隻要能求得生存，就不惜一切代價，然後再作將來的打算。他們還通過賄賂，買通了太宰伯嚭；伯嚭答應幫助吳國說服夫差同意媾和。這樣，在越國極其謙卑的言辭懇求下，加上伯嚭的竭力慫恿，也還有一條重要的原因就是夫差急於北上伐齊，進而爭霸中原，也想盡快了結越國的事，因此夫差決定接受越國的求和。
這時，隻有伍子胥看到了同越國媾和的巨大危險，因此竭力反對，而主張乘勝前進，將越國徹底消滅，免遺後患。他勸夫差說：“千萬不可接受越國的求和!越國和吳國是仇敵之國。吳越二國周圍有三江(指吳江、錢塘江、浦陽江)環繞，二國的人民沒有別的地方可遷徙，有吳就沒有越，有越就沒有吳，這種勢不兩立的局勢是任何時候也不會改變的。我聽說，陸生者居陸，水生者居水。北方中原地區的國家，我們攻打他們取得了勝利，我們卻不能居住他們的土地，不會乘坐他們的車輛；對於越國，我們戰勝了他們，卻能夠居住他們的土地，能夠乘坐他們的舟船，這也正是我們攻打越國的利益所在。機不可失，時不再來。大王一定要把越國滅掉!否則將來後悔也來不及了。”伍子胥還舉出曆史上的經驗教訓說：“夏朝時候太康失國，被有窮氏的後羿奪取了政權。後羿又被他的部下寒浞所殺，帝位又被蹇浞所篡奪。太康和他弟弟仲康在外逃中不久都死了。仲康的兒子名叫相，便去投靠斟灌(今山東壽光縣東北)、斟尋阝(今山東濰坊市附近)兩個夏的同姓部落。寒浞奪得帝位之後，便大力消滅夏的殘餘勢力。他出兵滅掉了斟灌和斟尋阝，並殺死了相。當時相的妻子正懷著兒子少康，她從一個牆洞裏鑽出去逃跑了。她跑回了自己的娘家有仍氏(今山東金鄉縣境)，生下了少康。少康在有仍氏長大成人後，便積蓄力量，努力要恢複夏王朝。後來終於滅掉了寒浞，重新恢複了夏的統治。現在我們吳國遠不如過去的寒浞強大，而現在的越國卻比過去的少康要強大的多。說不定上天還會使越國重新振興起來，到那時再想製服它，就很難了。我國介於蠻夷之間，卻要保存敵人，以使其強大，用這樣的方法來求取霸業，必然是行不通的。”但無論怎麼說，被勝利衝昏了頭腦的夫差就是聽不進去，終於答應了越國的求和。
伍子胥見過夫差出來後對人說：“越國用十年的時間繁衍積聚，用十年的時間對人民進行教育訓練，二十年以後，吳國的宮殿恐怕就要變成沼澤了!”
根據吳越兩國的媾和條件，勾踐應和他的大臣隨夫差去吳國，給夫差當奴仆。周敬王二十六年五月，勾踐留文種守國，自己帶著範蠡等大臣來到了吳國。夫差把他們君臣密閉在宮中，讓他們做苦役。勾踐君臣知道，在目前這種情況下，隻有一切隱忍，逆來順受，才有可能求得吳王夫差的寬宥和赦免，從而獲得一條生路。因此他們表現出毫無怨言，一切恭敬從命的樣子。夫差見此情景，果然很高興。
隻有伍子胥時刻為此憂慮。他認為勾踐君臣一天不除，隱患就存在一天，而且總有一天會釀成大的禍害。因此，他總想找機會勸說夫差殺了他們，以斬除禍根。這一天，他終於找到一個機會，勸諫夫差說：“從前夏桀囚禁了企圖反叛他的商湯而不誅，商紂王囚禁了企圖反叛他的周文王而不殺，結果時機一過，天道反複，轉福成禍，商湯反而殺了夏桀，周武王反而滅了商紂。今天大王您既然囚禁了越君而又不誅，我以為大王是受他們君臣假象的迷惑太深了，這就很難保將來不遭受夏、商那樣的禍患。”這一說，夫差倒似乎有些醒悟了，便下令把越王召來，他要親自盤問盤問。
勾踐見了夫差，表現得極為謙卑恭順。經不住勾踐幾句好話一說，夫差的心又動搖了，便決定把他關押進石室，先不殺。於是伍子胥又勸諫夫差說：“我聽說想成就王業的人攻打敵國，戰勝了，就要把敵國的國君殺掉，因此沒有怕遭報複的憂慮，從而也就給自己的子孫後代免除了禍患。現在越王既已被關進石室，應該早下決心除掉他。否則，以後必將成為吳國的大禍患。”但這時伯嚭卻在一旁說：“從前齊桓公北伐山戎以救燕，回來後燕君送他，不覺送入了齊國境內，齊桓公便將燕君所到之地都割給了燕國，齊桓公因此而被世人所稱頌。當年宋襄公同楚國作戰，一定要等楚軍渡過了泓水，擺好了陣勢，才下令開戰，因此人們稱讚他講道義。取得成功的能夠留下美名，遭受失敗的也有德義可稱頌。現在大王能赦免越王，功名就超越前代的聖王了。”夫差聽了他們倆人的話，一時猶豫不決。當時他身體不好，正在生病，便說：“這事先放一放吧，等我病好了再說。”
勾踐這時感到形勢對他很不利，是否能免除一死，並進而逃脫虎口，還命運難卜，因此他內心非常不安。他的謀臣範蠡卻安慰他沉住氣，並向他獻計，讓他趁夫差生病之機，進一步向夫差表現自己的忠順和赤誠之心，以感動夫差，這樣來求得夫差的信任和赦免。於是勾踐依計而行，通過伯嚭，以求探視夫差的病，並親嚐夫差的糞便。這一下確實讓夫差感動了，以為勾踐真的是赤心待己，所以當他病好之後，便決定赦免勾踐。
夫差為慶賀自己身體康複，舉行了一次盛大的酒宴，特請勾踐參加，讓他麵朝北與己對麵而坐，並要求群臣對勾踐以客禮相待。勾踐在酒宴上為夫差舉酒祝壽，稱頌夫差的功德，極盡諛美之詞。夫差聽了非常高興。隻有伍子胥更加憂慮。因為他見夫差正在興頭上，不便掃他的興，所以等到第二天，他才對夫差說：“在昨天的酒宴上，大王已經看到了吧。我聽說，內懷虎狼之心的人，口稱諛美之詞。現在大王好聽一時間的動聽的言詞，而不考慮萬世之憂患；不聽忠直之言，而好聽讒夫之語。不誅生死仇敵，不滅刻毒之仇怨，這就好像加羽毛於炭火之上，投禽卵於千鈞之下，而想求得保全，可能嗎?臣聽說，夏桀曾登高而知危，卻不知怎樣才能求得自安。前當白刃的人自知必死，卻不知怎樣才能生存。受迷惑的人知道反悔，迷路的人知道回頭，為時還不晚，請大王認真考慮考慮吧。”
夫差聽了伍員的話，很不高興地說：“我病臥在床三個月之久，竟然沒有聽到相國您說過一句安慰的話，這說明是相國您心地不慈；又沒有見您進獻過一次我想吃的東西，心裏就沒有想起過我，這說明相國您心地不仁。作為人臣，不慈、不仁，還哪裏談得上忠信呢?越王原來被人迷惑，放棄邊防守備，導致了國家破亡。現在他能親率其臣民，來歸附於我，這說明了他的義。他親自做奴仆，妻子作妾，而對我毫無怨色；我生病期間，他來探視我，親嚐我的糞便，這些都說明了他的心慈。他拿出越國府庫的所有珍寶錢幣，奉獻給吳國，並且對自己的親朋故舊一切都不顧，來追隨我，這說明了他的忠信。他用這三條品德來侍奉我，而我竟然聽相國的話殺了他，那就是我的不明智，而隻求快意於相國之心了。這樣做，不辜負上天嗎?”
伍子胥說：“大王的話正好把理說反了。老虎伏下身子的時候，是為了有所捕獲；狐狸伏下身子的時候；是為了有所獵取。雉(野雞)的眼睛被彩綢所迷惑因而被拘獲；魚因貪求誘餌以至被捕而死。大王您以為越王歸附吳為義，以能嚐糞便為慈，以盡獻其府庫為仁，這實際上不過是越王故意做出的姿態，目的是為了求得生存，大王決不可隻憑聽言觀貌就信以為真。現在越王稱臣於吳，恰恰說明了他的深謀；盡獻其庫府，不表現出一點怨恨之色，這正是為了欺騙大王；親嚐大王的糞便，卻正是為了上食大王之心。吳國在越王的言辭中，真是被頌美得夠偉大了，而最終吳必將被越所擒!希望大王能認真考慮這個問題。我決不敢為逃避死亡而辜負前王所托，一旦到了社稷變成廢墟，宗廟叢生荊棘的時候，難道還可以再追悔嗎?”夫差說：“相國算了吧，不要再說了。我不願再聽到這樣的話!”夫差終於把越王勾踐和他的隨臣都赦免回國了。與此同時，他卻開始討厭並疏遠伍子胥了。越王勾踐回去後積極經營，準備攻吳複仇，而吳王夫差卻積極謀劃爭霸中原。伍子胥之死
吳王夫差要北上爭霸中原，首要的打擊目標便是齊國。為此吳國已經做了多年的準備，為了解決交通和糧草運輸的困難，吳國還特意開了一條人工大運河——邗溝，把江、淮兩大幹流溝通起來。但伍子胥的想法卻與夫差不一樣。因為越國未滅，他始終憂心忡忡。他竭力勸說夫差，應把戰略重點放在防越上，而不應致力於北上伐齊。但急於爭霸中原的夫差根本聽不進去。
周敬王三十一年，齊景公死，新君宴孺子即位。宴孺子幼弱，貴族爭權，政局混亂。夫差探知齊國的這種情況，非常高興，認為這正是伐齊的大好時機，便決定興師北上。伍子胥勸諫說：“前此上天把越賜給吳，而吳不接受，使越國得以繼續保存下來。天命是會有反複的!現在越王改弦更張，勵精圖治，革除弊政，減輕賦稅，施民所善，去民所惡，躬行節儉，而務富其民，因此人口繁衍，兵甲漸盛。對於吳國說來，越國的存在就像人的心腹之患。越王一天也沒有忘記要打敗吳國以複仇。現在大王不注意對付越國，卻把矛頭指向北方的齊國!那齊國對吳國來說，就好像人的皮膚上所生的疥瘡，並非心腹之患。齊難道能越過江淮而來爭我吳國之地嗎?隻有越國才一心想占有吳國的土地。近來大王又很不注意以德撫民，為自己尋歡作樂而大興土木，修築姑蘇台，勞民傷財。今年上天又奪我民食，災荒不斷，百姓饑困。在這種情況下，大王還要遠道伐齊，民眾一定會背離您了!譬如野獸群處，其中一獸中箭，那就會引起百獸驚恐逃竄。到時民眾一潰散，大王就將無法收聚他們了。到那時越人一定會來襲擊他們，大王就將悔之莫及了!”然而夫差不但不聽信伍子胥的意見，反而更加疏遠他了。
夫差這次伐齊似乎很順利，不僅沒有出現伍子胥所預言的危機，還在艾陵(齊地，今山東萊蕪縣東)大敗齊軍。夫差勝利而歸，更加趾高氣揚。他把伍子胥召來說：“從前我先王在世的時候，大夫您輔佐他開辟基業，西破強楚，是有功勞的。但是現在大夫已經老了，而又不能安分享樂，頤養天年，卻成天在那裏想怎麼給吳國找麻煩。我要興師出兵，大夫卻誣我民眾要背離，擾亂我國家的法度，又故意危言聳聽，蠱惑民眾，說什麼伐齊就會導致亡國之禍。現在天降福善於吳，齊軍被我降服了。我不敢自己誇功，這都是托福於先王的神靈。現在我冒昧地把戰況通告給大夫。”這實際上是在責備伍子胥，夫差顯得很得意。
伍子胥聽了夫差這番意得誌滿和責備自己的話，心裏想，這樣下去，吳國的大業就一定會葬送在他手中，因此還要盡自己的努力，來勸說吳王，試圖使其醒悟。伍子胥說：“從前吳國的先王世世都有輔弼之臣，因此善於決疑防患，而使國家不致陷於大難。現在大王竟想拋棄老臣，而與那些不經事的頭腦發熱的年青人合謀，說什麼‘我的命令他們不會違背’。不違背您的命令，實際卻是違背治國之道了。隻知一味順從而不違背您的意誌，這正是亡國的階梯啊!天要想拋棄誰，一定先會滿足他的一些小的欲望，讓他得意忘形，而大的災禍卻緊跟在後頭。大王這次如果伐齊而未能獲勝，恐怕還會覺悟，而吳國的大統還能繼續。這一打了勝仗，就更加迷惑了。我們的先王要想取得的，就一定有正道可以得到；想要拋棄的，也一定有正道可以把它拋棄掉。因此一直到他們去世的時候，都能保持國家的強盛。縱然偶有危機出現，也能及時消除。大王現在卻不能以正道去獲取，必將導致吳國的短命，大王不可不深思啊!”但這些話絲毫不能打動夫差。
然而越國的日益強大畢竟是有目共睹的事實，夫差也不能不有所憂慮了。所以到周敬王三十六年，當他再次北上伐齊之前，為了消除可能發生的後顧之憂，同時也為了試探一下越國的實力和態度，他決定先伐越。越王勾踐采用文種的計謀，仍然卑躬屈膝地向吳國求和，做出一副對吳國永遠忠誠、毫無二心的姿態，同時又拿出許多珍寶財物來賄賂夫差周圍的人，使這些人也都一個勁地幫越國求情。於是，夫差又動心了，便決定接受越國的求和。伍子胥看到夫差將再一次錯過滅越的機會，便勸諫道：“越國是我國的心腹大患。我們兩國同處於一塊土地上，他們對我國是有欲望的。他們的馴服，不過是為了達到他們的欲望，並非出於真心。不如趁此時滅了他們。我們攻打齊國，所獲得的土地，對我們來說就好像滿是石塊的田，毫無用處。越國要是不成沼澤，吳國就將被滅掉。讓醫生看病，卻說‘一定要留下病根’，是從來沒有的。《盤庚之誥》說：‘如果有猖狂搗亂而不聽話的，就統統誅滅而不留後代，切不可讓他們留下逆種!’這就是商朝所以興起的原因。現在您卻反其道而行之，這樣還想使吳國強大，怎麼可能呢!”伍子胥的話是如此激切，但夫差不僅聽不進去，還頗為反感。
夫差為了不再聽伍子胥說東道西，便派他出使齊國。臨行前，伍子胥對自己的兒子說：“我多次勸諫王，而王不聽。我現在就已經看到吳國的滅亡了。即使你們一起跟著滅亡，也沒有用處，不如到齊國去避禍吧。”於是他趁出使齊國的機會，把兒子暗中托付給了齊國的貴族鮑氏，這就是後來齊國的王孫氏。
伯嚭因與伍子胥的政見不一，兩人的矛盾已經越來越深。當他得知伍員把兒子托付給齊國鮑氏，便乘機在夫差麵前攻擊伍子胥說：“子胥為人剛暴，待人少恩而又猜忌。他對大王您充滿怨恨，恐怕將會釀成不測之禍患。前次大王伐齊，子胥認為不可，大王終於取得大功而回。子胥恥於他的計策不被采用，反而怨恨大王。現在大王又要伐齊，子胥剛愎自用，一味強諫，動援軍心，隻希望吳軍戰敗，以證明他的謀略正確。現在大王親率大軍伐齊，國內空虛，子胥出使齊國回來，卻裝病不起，不隨大王出征，大王不可不備。他要乘大王出征之機在國內興起禍亂，是不難的。況且我已經使人暗中探知，他前次出使齊國時，已將自己的兒子托付給了齊國的鮑氏。作為人臣，在國內不得意，竟向外求助於諸侯!他自以為是先王的謀臣，而現在不被信用，因此常心中怨憤。希望大王早作打算。”
聽了伯嚭這番話，夫差說：“不光是您這樣說，我也很懷疑他呢。”於是夫差便決定，北伐之前先除掉伍子胥。他派人去賜給伍子胥，把名叫屬鏤的劍，對伍子胥說：“請你用這把劍自裁吧!”伍子胥仰天長歎說：“啊!讒臣伯嚭作亂，大王反而殺我。是我使你的父親成就了霸業。你未立為太子時，諸公子爭位，是我不顧殺身之禍，在你的父王麵前為你爭得了太子地位。你立為太子之後，為感激我，想要分吳國給我，我不敢期望，堅辭不受。然而今天你卻聽信諛臣的讒言，竟然要殺死長者!”於是他吩咐自己的門人說：“我死後，請你們一定在我墳上種上梓樹，使它長大後可以做棺材，把我的眼珠摳出來，懸在吳國的東城門上，我要親眼看著越軍怎樣進城消滅吳國。”說罷，便用劍自刎而死。伍子胥這裏所說的棺材，是在暗示吳國必亡，這棺材給夫差使用。
夫差聽人報告了伍子胥臨終前說的話，大怒說：“你想看見的事，我決不讓你得見!”於是命人用一隻皮革做的袋子把伍子胥的屍體裝起來，拋入江中。
伍子胥死後，吳人哀憐他，便在江邊的山上立祠祭奠他，並把這座山叫做胥山。