公元前496年，闔閭得知越王允常去世，其子勾踐年輕新立，以為這是征服越國的絕好時機，於是大興吳軍，禦駕親征。伍子胥雖然堅定主張南進，但卻認為不宜乘敵國新喪出兵，以致政治上陷於被動，故曾以時機尚不成熟為由勸阻闔閭的盲動，“越雖襲吳，方有大喪，不應攻伐”，結果為闔閭所拒絕。
趾高氣揚的闔閭統率吳軍開向越國邊境。越王勾踐得知吳軍來犯，也不敢示弱，出兵迎戰。兩軍相遇於雙方的邊界地區槜李（今浙江嘉興一帶）。一場大戰就這樣爆發了。
戰鬥伊始，越王勾踐先發製人，選拔奮勇死士，組成兩支敢死隊，率先向吳軍軍陣發起衝擊。然而吳軍訓練有素，實施堅強的防禦，挫敗了越軍敢死隊的輪番攻擊。
勾踐見初戰失利，並不氣餒，乃巧使計謀，使用闔閭在雞父之戰中曾經行使過的戰法，驅使軍中犯了軍法的“罪人”排隊成三行，列於陣前。這些罪犯把劍放在脖子上朝吳軍軍陣高呼：“二君有治，臣奸旗鼓，不敏於君之行前，不敢逃刑，敢歸死。”（《左傳·定公十四年》）呼畢便都大喊一聲，自刎身亡。吳軍將士看著這一幕，不禁目瞪口呆，軍心大亂。勾踐乘機指揮越軍猛烈攻擊，一舉衝垮吳軍的陣形，大破吳軍。越國大夫靈姑浮揮戈殺入吳軍陣中，擊傷闔間。吳軍全線崩潰，被迫撤離戰場，退向本國，在退卻途中，“吳軍死傷者不可稱數”（《越絕書》）。
在這次戰爭中越王勾踐雖然年輕，指揮起戰鬥來卻得心應手，如同久經沙場的老將。他因敵變化，不斷變換戰術，出奇製勝，牢牢地控製著戰場上的主動權，完全不是闔閭想象中不諳軍事的毛頭小夥。相反，冒進輕敵、自以為是的闔閭卻疏於戒備，墨守成規，指揮笨拙，而一直處於被動狀態。雙方較量的結果自然是吳軍慘敗，越軍獲勝。闔閭還被越國大夫靈姑浮用戈擊傷，闔閭由於傷勢嚴重，不久就撒手人寰，棄世而去。
孫武在槜李之戰中的表現史無明載，估計他在當時並不是吳軍的主要指揮者，因此不應當承擔吳軍戰敗的責任。
闔閭由於輕敵被年輕的勾踐殺得慘敗，痛悔憤恨不已，臨終之時，再三囑咐其子夫差，“必毋忘越！”要求他不要忘記殺父之仇，立誌雪恨。夫差繼位後，時刻牢記這一深仇大恨，派人站在王庭上，每大提醒自己：“夫差！而忘越王之殺父乎？”自己則高聲回答：“唯，不敢忘。”夫差遵循父親的遺誌，致力於發展軍事力量，進行戰爭準備，以圖一朝向越國討還血債。孫武見夫差雄心勃勃，很有幹一番事業的氣象，不勝欣慰，便毫不猶豫地和伍子胥一起又開始輔佐夫差，希望吳國從此走上更加強盛發達的道路。