經過一番準備之後，從第二年開始，吳國便對楚國實行輪番襲擊的戰略。吳國先出動軍隊攻打楚國的夷邑（在今安徽亳縣東南），又侵襲潛邑（今安徽霍山縣南）和六邑（今安徽六安市東北）。楚國匆忙派左司馬戌率軍前往救援，吳軍便迅速撤走了。接著吳軍再次攻楚，包圍了楚國的弦邑（今河南息縣南），兵鋒一直抵達豫章。當楚國派大軍抵禦時，吳軍又迅速撤走了，這樣輪番不間斷地對楚發動襲擊，楚軍從此開始疲於奔命。
為了保證對楚作戰的勝利，周敬王九年（前511），伍子胥又向閹間推薦孫武。孫武是我國古代著名的軍事家，他所著《孫子兵法》十三篇流傳至今，並為世界上許多國家所重視。但當時孫武還隱居在吳國，很少為人所知，是伍子胥發現了他這個人才，並及時地把他推薦給吳王。有了這樣一位傑出的軍事家做將領，吳國對楚作戰就更有勝利的把握了。
不久，闔閭得知吳國遺失多年的一把名叫湛盧的寶劍被楚昭王得到了，於是大怒，當即決定由伍子胥、孫武和伯嚭率軍伐楚，一定要奪回湛盧劍。當時要論各方麵的準備情況，吳國還不宜對楚發動大規模的軍事行動。不過在闔閭的盛怒之下，伍子胥等也隻好聽從。當時楚國有一位賢臣，名叫子期，頗得人心，又善於用兵。伍子胥想，如果楚國用子期為將，要想打贏這一仗，就很難有把握了。於是他心生一計，派人放出空氣說：“吳國最怕同楚國的子常打仗，如果楚國讓子常為將，吳兵就將避免和他交鋒，而將軍隊迅速撤回。吳國最希望楚國能用子期為將，如果用子期為將，吳軍就一定能打敗楚軍，並殺死子期。”昏庸的楚昭王本來已經任命子期為將了，聽了吳國放出的空氣，不加思索，便信以為真，於是又把子期撤了下來，重新任命子常為將。結果這次打了敗仗，丟失了兩個城邑。吳國在獲得奪取二邑的戰果之後，也就迅速撤回了。因為伍子胥、孫武和伯嚭心裏都清楚，現在對楚發動全麵進攻的時機還不成熟，打一仗，給闔閭出出氣就是了。
周敬王十四年，即吳王闔閭即位的第九年，闔閭要破楚入郢（今湖北江陵）之心已經急不可待了。一天，他對伍子胥和孫武二人說：“開始你們說時機不成熟，楚國的郢都還不可攻破，現在你們看怎樣了？”伍、孫二人見吳王的決心已定，很難再說服他等待，便向闔閭獻計，應利用蔡、唐二國與楚國的矛盾，聯合蔡、唐二國以伐楚。吳王闔閭采納了他們的意見，於是吳國聯合蔡、唐向楚發起大規模進攻。
吳軍與楚軍夾漢水而布陣。吳王的弟弟夫概瞅準了一個機會，率領他的部下五千人對楚發起攻擊，緊接著大軍掩殺過去，把楚軍打得大敗。楚軍統帥子常因戰敗而逃奔到鄭國去了。楚軍群龍無首，潰散逃竄。
吳軍乘勝追擊，五戰五勝，一直攻入了楚國的郢都。楚昭王逃奔到隨國去了。
吳王闔閭破楚入郢的心願終於實現了！其首功，應歸之於伍子胥多年來的精心謀劃。
伍子胥的家仇也終於得報了。使他感到遺憾的是楚平王已死。昭王又已外逃，無法對活人下手。為了解恨，他掘開楚平王的墳墓，搬出平王的屍體，對屍體抽打了三百鞭，又用左腳踩著屍體的腹部，右手摳出屍體的雙眼，譏誚地說：“誰讓你聽信讒言，殺害我的父兄呢？你今天落得這個下場，不冤枉吧！”隨後將平王焚骨揚灰。
這時楚臣申包胥逃亡在山中，他與伍子胥本是好朋友。他聽說伍子胥在郢都掘墓鞭屍，便派人前去責備伍子胥說：“您報仇，也太過分了吧。您本是平王的臣子，現在居然對平王掘墓鞭屍，這樣來報仇，您的做法也太不顧及天道了吧！”伍子胥對來人說；“請為我回申包胥，就說我日暮而路遠，不得不倒行而逆施。”
吳軍對郢都的占領並沒有持續多久。很快申包胥從秦國搬來了救兵，楚軍也重整旗鼓與秦軍聯合殺來，而吳王闔閭的弟弟夫概又趁闔閭在楚、國內空虛之機，跑回國去自己稱王。與此同時，越王允常也興兵攻吳。形勢驟然變得對吳國十分不利，吳國不得不從郢都撤兵了。
但吳國並沒有就此放棄打擊楚國的戰略方針。過了兩年，闔閭又派其子夫差率兵伐楚，並奪取了番地（大約在今江西鄱陽湖附近）。楚因懼怕吳國再來侵犯郢都，便把國都遷到（今湖北宜城）去了。
攻破越國
周敬王二十六年，闔間以越不出兵跟從他伐楚為罪名，興兵伐越。越王勾踐領兵迎擊。兩軍在今浙江嘉興市西南交戰，結果吳軍被打得大敗，闔閭一隻腳的大拇指也被越人擊傷了。吳國隻好收兵而回。
闔閭受傷後一病不起。但這時吳王還沒立太子，他感到自己快要不行了，便開始考慮立太子的事。伍子胥也很為這事犯愁。他希望闔閭能有一位好的繼承人，使他千辛萬苦輔佐闔閭創立的功業能得以保持。正在這時，夫差來求助伍子胥，說：“父王想立太子，除了我，還有誰更合適呢？父王十分信任您，這事就全聽您一句話了。”伍子胥從平日對夫差的了解，認為他在諸公子中，確實是立太子的理想人選，就決定幫助他，於是他對夫差說：“大王還未拿定主意，我這次進去一說，就將決定了。您就放心吧。”恰巧在這時，闔閭召伍子胥進去商量立太子的事，伍子胥便乘機對吳王說：“我聽說，王業的廢壞，往往是由於後繼無人；王業的興盛，則在於能夠選立賢嗣。依我看，要立太子，諸子中沒有比夫差更合適的了。”闔閭卻說：“我看夫差愚蠢而又缺乏仁慈之心，恐怕不能繼承吳國的大業。”伍子胥說：“夫差待人誠信而又友愛，恭行正道而又敦守禮義。父死子代，經書上早有明文。請立夫差為太子，不要再猶豫了。”闔閭對夫差這個人選雖不太滿意，但經不住伍子胥的反複勸說，又基於對伍子胥的信任，心想也許自己對夫差的看法不正確，而伍子胥的看法才是對的，於是就同意了伍子胥的意見。他對伍子胥說：“立太子的事，我就聽從您的意見了。”夫差就這樣被立為太子。闔閭立太子後不久就死了。臨死前，他把太子召來問道：“夫差，你忘了越王殺父之仇了嗎？”夫差立即肅然正容回答說：“不敢忘！”這實際上就是要夫差為自己報仇。
闔閭死後，夫差即位，在伍子胥等人的輔佐下，積極準備伐越報仇。經過三年的準備，到了周敬王二十六年春，夫差親率大軍，舉行大規模的伐越戰爭。吳軍在夫椒（今浙江紹興）把越軍打得大敗，越王勾踐隻帶五千人逃奔到會稽山（今浙江紹興市東南）上。吳軍把會稽山團團圍住。越國滅亡的命運似乎已經注定了。
處於生死存亡關頭的越國君臣經過緊張的謀劃，決定卑躬屈膝，向吳國請和投降，隻要能求得生存，就不惜一切代價，然後再作將來的打算。他們還通過賄賂，買通了太宰伯嚭；伯嚭答應幫助吳國說服夫差同意媾和。這樣，在越國極其謙卑的言辭懇求下，加上伯嚭的竭力慫恿，也還有一條重要的原因就是夫差急於北上伐齊，進而爭霸中原，也想盡快了結越國的事，因此夫差決定接受越國的求和。
這時，隻有伍子胥看到了同越國媾和的巨大危險，因此竭力反對，而主張乘勝前進，將越國徹底消滅，免遺後患。他勸夫差說：“千萬不可接受越國的求和！越國和吳國是仇敵之國。吳越二國周圍有三江（指吳江、錢塘江、浦陽江）環繞，二國的人民沒有別的地方可遷徙，有吳就沒有越，有越就沒有吳，這種勢不兩立的局勢是任何時候也不會改變的。我聽說，陸生者居陸，水生者居水。北方中原地區的國家，我們攻打他們取得了勝利，我們卻不能居住他們的土地，不會乘坐他們的車輛；對於越國，我們戰勝了他們，卻能夠居住他們的土地，能夠乘坐他們的舟船，這也正是我們攻打越國的利益所在。機不可失，時不再來。大王一定要把越國滅掉！否則將來後悔也來不及了。”伍子胥還舉出曆史上的經驗教訓說：“夏朝時候太康失國，被有窮氏的後羿奪取了政權。後羿又被他的部下寒浞所殺，帝位又被蹇浞所篡奪。太康和他弟弟仲康在外逃中不久都死了。仲康的兒子名叫相，便去投靠斟灌（今山東壽光縣東北）、斟尋阝（今山東濰坊市附近）兩個夏的同姓部落。寒浞奪得帝位之後，便大力消滅夏的殘餘勢力。他出兵滅掉了斟灌和斟尋阝，並殺死了相。當時相的妻子正懷著兒子少康，她從一個牆洞裏鑽出去逃跑了。她跑回了自己的娘家有仍氏（今山東金鄉縣境），生下了少康。少康在有仍氏長大成人後，便積蓄力量，努力要恢複夏王朝。後來終於滅掉了寒浞，重新恢複了夏的統治。現在我們吳國遠不如過去的寒浞強大，而現在的越國卻比過去的少康要強大的多。說不定上天還會使越國重新振興起來，到那時再想製服它，就很難了。我國介於蠻夷之間，卻要保存敵人，以使其強大，用這樣的方法來求取霸業，必然是行不通的。”但無論怎麼說，被勝利衝昏了頭腦的夫差就是聽不進去，終於答應了越國的求和。
伍子胥見過夫差出來後對人說：“越國用十年的時間繁衍積聚，用十年的時間對人民進行教育訓練，二十年以後，吳國的宮殿恐怕就要變成沼澤了！”
根據吳越兩國的媾和條件，勾踐應和他的大臣隨夫差去吳國，給夫差當奴仆。周敬王二十六年五月，勾踐留文種守國，自己帶著範蠡等大臣來到了吳國。夫差把他們君臣密閉在宮中，讓他們做苦役。勾踐君臣知道，在目前這種情況下，隻有一切隱忍，逆來順受，才有可能求得吳王夫差的寬宥和赦免，從而獲得一條生路。因此他們表現出毫無怨言，一切恭敬從命的樣子。夫差見此情景，果然很高興。
隻有伍子胥時刻為此憂慮。他認為勾踐君臣一天不除，隱患就存在一天，而且總有一天會釀成大的禍害。因此，他總想找機會勸說夫差殺了他們，以斬除禍根。這一天，他終於找到一個機會，勸諫夫差說：“從前夏桀囚禁了企圖反叛他的商湯而不誅，商紂王囚禁了企圖反叛他的周文王而不殺，結果時機一過，天道反複，轉福成禍，商湯反而殺了夏桀，周武王反而滅了商紂。今天大王您既然囚禁了越君而又不誅，我以為大王是受他們君臣假象的迷惑太深了，這就很難保將來不遭受夏、商那樣的禍患。”這一說，夫差倒似乎有些醒悟了，便下令把越王召來，他要親自盤問盤問。
勾踐見了夫差，表現得極為謙卑恭順。經不住勾踐幾句好話一說，夫差的心又動搖了，便決定把他關押進石室，先不殺。於是伍子胥又勸諫夫差說：“我聽說想成就王業的人攻打敵國，戰勝了，就要把敵國的國君殺掉，因此沒有怕遭報複的憂慮，從而也就給自己的子孫後代免除了禍患。現在越王既已被關進石室，應該早下決心除掉他。否則，以後必將成為吳國的大禍患。”但這時伯嚭卻在一旁說：“從前齊桓公北伐山戎以救燕，回來後燕君送他，不覺送入了齊國境內，齊桓公便將燕君所到之地都割給了燕國，齊桓公因此而被世人所稱頌。當年宋襄公同楚國作戰，一定要等楚軍渡過了泓水，擺好了陣勢，才下令開戰，因此人們稱讚他講道義。取得成功的能夠留下美名，遭受失敗的也有德義可稱頌。現在大王能赦免越王，功名就超越前代的聖王了。”夫差聽了他們倆人的話，一時猶豫不決。當時他身體不好，正在生病，便說：“這事先放一放吧，等我病好了再說。”
勾踐這時感到形勢對他很不利，是否能免除一死，並進而逃脫虎口，還命運難卜，因此他內心非常不安。他的謀臣範蠡卻安慰他沉住氣，並向他獻計，讓他趁夫差生病之機，進一步向夫差表現自己的忠順和赤誠之心，以感動夫差，這樣來求得夫差的信任和赦免。於是勾踐依計而行，通過伯嚭，以求探視夫差的病，並親嚐夫差的糞便。這一下確實讓夫差感動了，以為勾踐真的是赤心待己，所以當他病好之後，便決定赦免勾踐。