無忌覺得雖然驅逐了太子，但隱患並沒有根除，他知道，伍奢父子是忠於太子的，而且有才幹，在楚國是有影響的人物，他們不死，自己的安全還是沒有保證。於是，唆使平王殺伍奢父子三人。伍奢已被扣，伍尚兄弟還在城父，為了防止他們逃跑，又恐怕他們不肯就範，平王派人對伍奢說：“如果把你的兩個兒子叫來，可以免死。”伍奢說：“伍尚為人忠厚、慈孝，叫他必來。伍員為人剛強暴戾，有勇有謀，並能忍辱含垢而成大事，他知道來這裏會同時被扣，一定不會聽命。”平王不信，派人去叫伍尚兄弟，對他們說：“你們來，我饒你們的父親一命；不來，將你們的父親立即斬首。”伍尚聽了去郢可以救父親，心急如火，馬上準備動身。伍員說，“楚王叫我們兄弟去，並不是真正打算饒父親不死，他是恐怕我們逃脫以後報仇，特以父親為人質來誆騙我們。隻要我們一到，他就會將我們父子同時處死。我們去，並不能救父親。如果我們都死了，那以後哪個為我們報仇呢？不如投奔別國以待時機。”伍尚說：“我也知道即使馬上去，也並不能救父親之命，但是，既然楚王說了隻要我們去就可饒父不死，而我不去，這是不孝。父親無辜被害而不能報仇，那將說明我們太愚蠢，太無能力。你趕快走吧，我一個人去算了。”使者逮捕了伍尚，不見伍員，知其逃走，急忙追趕。伍員見使者追來，他轉身挺胸站著，彎弓搭箭對著他們。伍員身材魁梧，武藝高強，特別精於箭法。使者一看不好，抱頭鼠竄，狼狽而逃。伍員聽說太子建在宋，就去投奔他。伍尚到都城後，果然和伍奢一道被殺。
伍子胥在去宋途中，遇到了好友申包胥。申包胥剛從國外出使回來，不知道伍家發生的事情，看到伍子胥隻身獨行、狼狽不堪的樣子，感到很驚異。伍子胥向他簡略地講了慘遭平王迫害的經過後，咬牙切齒地說：“我一定要報仇雪恥，消滅楚國。”申包胥說：“你能消滅楚國，我能保衛楚國。你努力去幹吧！請相信我們的友誼，我是不會把今日相見的事告訴別人的。”
伍子胥到宋，正遇上宋國內亂，在那裏呆不下去，就和太子建一道投奔到鄭。鄭定公對他們很友好，招待很客氣，但鄭國兵力弱，不足以抗楚，鄭定公建議他們到晉去求援。於是，太子建到晉。晉頃公接見之後對他說：“鄭很相信你，我攻鄭，你如果能夠與我配合作為內應，那一定可以滅鄭。滅鄭以後，就把鄭這塊地方封給你。”太子建利令智昏，欣然允諾，回到鄭國，密謀行事。但不久，機密泄露，被人告發。鄭定公覺得太子建不知好歹，竟然恩將仇報，非常氣憤。為了不驚動他，定公與大夫子產商量，采取了一個穩妥的辦法。一日，定公請太子建到內宮參加酒宴。席間，定公單刀直入地對他說：“我好意留你住在這裏避難，從沒有怠慢，你為什麼要與晉合謀而滅我的國家呢？”太子建企圖抵賴，定公叫出揭發的人對質，太子建無言可答，表示認罪，但定公已喝令左右拿下斬首。建的隨從有逃出的，把太子建被殺的事告訴伍子胥，伍子胥驚恐萬分，立即帶了太子建的兒子勝慌忙逃出鄭城。狂奔一陣之後，來到一個偏僻的地方才住了腳，定了心。但投奔到哪裏去呢？思考了一會，覺得隻有吳國近年來一直與楚為敵，且國家實力較強，在那裏可能有保障。於是，他不顧路途遙遠，直往吳國奔去。
從鄭去吳，必須經過楚國邊境昭關。楚平王為了緝拿伍子胥，到處懸掛了他的畫像，並標明令人羨慕的賞金。伍子胥的形象奇特，《吳越春秋》上的記載，可能有些誇張，說他“身長一丈，腰十圍，眉間一尺。”所以他一到昭關，就被認出來了。伍子胥帶了勝急忙快步飛逃，差一點就被官兵抓住。跑到江邊，前無去路，而後麵，官兵正緊迫上來。伍子胥在束手無策準備以死相拚的時候，忽然發現江邊有一隻小漁船，船上：有個捕魚的老頭。伍子胥忙上前哀求相救。老漁夫見義勇為，將他們渡過了江，使他們脫離了險境。伍子胥對於這樣的救命恩人，當然非常感激，但身邊沒有什麼東西可以表示自己的心意，就解下寶劍，雙手捧著對老漁翁說：“這把劍是我傳家之寶，價值百金，送給你老人家。”老漁翁笑著說：“楚國早就頒布了一項命令，如有人捉得伍子胥，賞給五萬擔糧食，並任命為大夫的官職，那豈止一把價值百金的寶劍？你還是收起留著自己用吧！”伍子胥再三拜謝而去。現傳說武昌東北有解劍亭，就是當年伍子胥解劍贈漁翁的地方。