夫概被打敗之後就退兵了，他偷偷回到吳國，趁闔閭還在郢都，自立為吳王。闔閭得到消息，便放棄楚軍，轉而回去攻殺夫概。子胥、孫武和白喜留在楚國，後來也被吳軍以火攻的辦法打敗，但並無太大損失，便決定退兵了。
這便是申包胥一人複楚的故事。
離開郢都時，伍子胥心滿意足地說：“自從有帝王霸主以來，做臣子的還沒有能像我這樣複仇的。可以走啦！”
立夫差，兩朝老臣
子胥等人班師回吳國，吳王殺魚做魚末子，準備為他們慶功。誰知他們的歸期拖延，魚末子都發臭了，吳王闔閭端出來給他們吃，子胥等人卻並不覺得臭，吳王又做了些新鮮的魚末子。吳地做魚末子的風俗，據說就是從吳王闔閭開始的。
這之後不久，吳國的太子病死了，闔閭便從眾公子中物色新太子的人選。闔閭的次子夫差請求伍子胥幫助自己謀劃此事，子胥答應了。吳王與子胥商量立太子的事，子胥對吳王說：“夫差是最合適的人選。”但闔閭卻認為夫差殘暴而愚蠢，難當大任。經過伍子胥大力保舉，吳王才打消了顧慮，聽從了他的建議。
闔閭立夫差為太子後，派他帶兵駐紮，防禦楚國。後來夫差攻占了楚國的番邑。楚王害怕吳軍再次大舉入侵，便遠離郢都，遷都到鄀。這一時期，吳國采用伍子胥、孫武的謀略，向西攻破強大的楚國，北麵威脅齊國、晉國，南麵降服越國，國勢最盛，可謂稱霸一方。曆史上的“春秋五霸”向來有兩種說法，其中一種說法便把吳王闔閭列為其中之一，同時也把後來的越王勾踐列為其中之一。
越王勾踐帶兵與吳王闔閭交戰，在姑蘇打敗吳軍，並擊傷了闔閭的腳趾，闔閭受傷而死。夫差繼位之後，任用伯嚭（即白喜）為太宰，加緊操練士兵，兩年後在夫椒大敗越軍。越王勾踐隻能帶領五千殘兵退守到會稽山，並采納大夫文種的計策以重金美女賄賂吳國太宰伯嚭請求談和，並表示願以全國作為吳國的臣妾。伍子胥勸諫說：“吳越兩國相鄰，不是吳國滅掉越國，就是越國滅掉吳國啊！現在上天把越國賜給吳國，吳國怎麼可以違背天意呢？祛病除害，一定要斷根絕源啊！”但是吳王夫差沒有采納子胥的意見，而聽從了太宰伯嚭的建議，與越國談和了，從此養寇留患，種下了亡國的禍根。
越王勾踐為了表示對吳國的徹底屈服，親自帶領妻子和臣下來到吳國服役，侍奉吳王。伍子胥疾言厲色勸諫吳王說：“越王本來是難以掌控的，現在他自己送上門來，對我們來說是難得的好機會啊，怎麼可以不殺他呢？”吳王夫差卻說：“我聽說誅殺已經降服歸順的人，會禍及三代。我是怕上天責怪，才想赦免他。”太宰伯嚭也在一旁替越王求情。吳王沒有殺越王勾踐，而是讓他為自己駕車養馬，住在石洞之中。
越王勾踐就這樣在吳國服役了三年，沒有流露出一點怨恨之情，吳王夫差完全相信他了，以為他是心甘情願臣服於自己，感激自己的不殺之恩，便有意想赦免他，放他回越國去。伍子胥又勸諫吳王說：“從前夏桀囚禁了商湯而不殺，商紂王囚禁了周文王而不殺，結果上天的意誌便反了過來，他們二人終至於亡國了。現在大王囚禁了越王而不殺，您要吸取他們的教訓啊！越王勾踐為人忍辱負重，這個人如果不死，一定會成為吳國的禍患。”吳王有所猶豫，而太宰伯嚭還是一味地為越國說好話。這時候，越王聽從跟隨他在吳國服役的大夫範蠡的計策，趁吳王生病時前去探望，並請求品嚐吳王的糞便來預測病情。吳王果然大為感動，決心赦免越王。伍子胥諍言力諫說：“越王到吳國來做奴仆，是他深謀遠慮；掏空了自己的金庫而不怨恨，是在欺騙大王；嚐大王的糞便，更是為了騙取信任，這是多麼惡毒的手段啊！大王被蒙蔽了，喜歡聽那些動聽的言辭，而不考慮國家的存亡；拋棄忠誠的意見，而采納小人的讒言，這多危險啊！我不敢因為怕死而辜負先王的重托，一旦國家成為一片廢墟，後悔就來不及了！”吳王夫差聽不進這些逆耳忠言，對子胥也越來越反感，終於放虎歸山，赦免勾踐回國了。
諍言諫，含恨被殺
勾踐回國後韜光養晦，臥薪嚐膽，等待機會一雪前恥。伍子胥洞明世事，他始終認為越王勾踐是能君，文種、範蠡是良臣，越國是吳國的心腹大患。後來越王采用文種的計策向吳王進獻優質的木材供吳國建造宮殿，又進獻美女西施和鄭旦，以麻痹吳王的警戒之心，伍子胥都曾疾言力諫，吳王置之不理，反而欣然接受，樂不可支。
後來吳國兩次起兵伐齊，伍子胥都忠心耿耿地勸誡說：“越國對吳國來說，實在是一個致命的病灶，大王應當首先除去這個禍患。齊國好比沙土荒地，即使奪取了也是毫無用處的。”吳王不聽從他的勸告，反而派他出使齊國。伍子胥完成了使命，從齊國回來之前，對隨他同行的兒子說：“我已預見到吳國的滅亡了。你和吳國一起坐等滅亡，沒有好處。”他把兒子托付給了齊國的鮑牧，隻身回到吳國。
吳王寵信太宰伯嚭，伯嚭與伍子胥的裂痕越來越深，便開始不斷地在吳王麵前讒毀子胥，他說：“原先大王要討伐齊國，伍子胥勸諫說不可以，大王還是出兵了，結果大獲全勝。伍子胥對此感到很羞恥，勢必會感到失望和怨恨。他自認為是先王的謀臣，現在不被重用，便常常心中不快。伍子胥性格剛強暴戾且猜疑嫉妒，他的怨恨可能會給國家帶來禍害呀！這一次大王要親自帶兵攻打齊國，伍子胥故意讒毀說不可出兵。我暗中觀察他，他已經把兒子托付給齊國的鮑氏，恐怕要對吳國不利啊！”吳王聽後大怒，便派人賜給子胥屬鏤劍讓他自殺。子胥仰天長歎：“我輔佐你父親成為一代霸主，又拚命爭取讓你登上王位，今天你卻聽信讒言要來殺我！”
兩千五百年來，後人時時記起伍子胥臨終之前那震撼人心的詛咒：“在我的墓上種梓樹，讓它們長成後可以做棺材！挖出我的眼睛掛在東門上，讓我親眼看到越國怎樣滅亡吳國！”當時的吳王聽到這些話非常生氣，果真命人割下子胥的頭掛在城門上，用皮袋子裝了他的屍體拋入江中。然而數年之後子胥的話便應驗了，越王勾踐終於滅掉了吳國，殺死了吳王夫差。夫差臨死之前以麻布遮麵，隻因為到九泉之下無顏去麵對吳國的忠臣伍子胥！
一個人的到來可以興國，一個人的死去可以亡國，這就是伍子胥的故事。
後人痛憐子胥，在江邊為他立祠，並將伍祠所在的山稱為胥山。吳地至今留有關於伍子胥的遺跡多處，據史料記載，當地端午節吃粽子、賽龍舟的習俗也是因紀念子胥而起，與屈原並無關係。《吳越春秋》上說，伍子胥和越國被越王勾踐殺死的忠臣文種二人死後一起化作了海上的怒濤，這一典故無疑寄托了後人的同情與無盡哀思，南宋詩人陸遊曾有“夢筆橋東夜係船，殘燈耿耿不能眠。千年未息靈胥怒，卷地潮聲到枕邊”的詩句。
子胥在被迫自殺之前曾與吳國大夫被離有過這樣的對話——被離說：“你將來繼續勸諫吳王仍然不會被采納，不如逃走吧。”子胥說：“如果要逃走，我能到哪裏去呢？”或許這樣一句不經意的言辭正道出了伍子胥一生中內心的隱痛——何處是家？何處是國？忠而被謗，信而見疑，先是楚，後是吳，家與國對於伍子胥來說，終究是一個遙遠的夢想。然而，伍子胥是一個忠於理想的完美主義者，堅守信念，始終如一。哪怕換來的隻是一世的孤獨和留給後人的一個蒼涼背影！
或許懸首吳門正是他最燦爛的死法——完美的謝幕。