考慮到各種不利的現實情況，孫武和伍子胥終於統率吳軍撤離郢都，取道回國。這無疑是孫武奮鬥生涯中的一個挫折，可是他並沒有因此意誌消沉，喪失信心，而是繼續為吳國的強盛不懈努力。
這時，楚國雖然憑借秦國的外援僥幸複國，可是畢竟元氣大傷，在短時間內無法對吳國構成重大的威脅了。擺在吳國君臣麵前新的議題是，如何根據變化了的形勢，製定新的戰略進攻方針，達到爭霸天下的目標。
吳國要謀求進一步的發展，就要分清主次，循序漸進，就必須在南、北兩個方向上做出選擇，以避免兩線作戰，陷入戰略上的被動。那麼，是先南下征服越人，還是先北上與齊、晉爭鋒？這就成了吳國君臣爭論的焦點。
伍子胥是最堅定的主張南進派。他認為，齊、魯等國對吳國來說，不過是“疥癬”之疾，“夫齊、魯譬諸疾，疥癬也，豈能涉江、淮而與我爭此地哉……破齊，譬猶石田，無所用之”（《國語·吳語》），何足畏懼，反對吳國首先用兵北方。反之，越國則是楚的盟國，長期以來同吳國視若水火，兵鋒咄咄，有亡吳之心，實乃吳國的心腹大患。吳國隻有先徹底打垮越國，才能國基有固，霸業有成。
由於史料的闕如，孫武在這場戰略決策過程中的言行已無法得知了。然而我們可以肯定地推論孫武和伍子胥一樣，也是堅定的南進派人物。這是因為，第一，孫武是齊國人，對故土的感情，使他很難忍心指揮吳軍攻伐自己的父母之邦。背吳不忠，攻齊不義，從私人角度出發，較好的選擇自然隻有向南征服越國一途。第二，從戰略全局考慮，孫武也必然讚同伍子胥的觀點：首先攻伐越國，再及其他。孫武同樣認為，越國是除楚國之外的吳國的主要敵人，是他一直計劃征服的對象。我們做這樣的推測是有依據的。現存的《孫子兵法》中就流露出這方麵的蛛絲馬跡。在書中，孫武多處以越國為假想敵，用以闡明自己的戰略原則，就是明顯的證據。由此可見，在破楚之後的吳國戰略主攻方向決策的過程中，孫武當然站在伍子胥的一邊，力主南伐越國，戰而勝之。
和孫武、伍子胥相反，闔閭及其後來的繼任者夫差實際上是北上派。他們見自己已把西麵的強楚打得落花流水，便有點得意忘形，滋生了引兵中原，北上與齊、晉等大國一爭雌雄的“豪情壯誌”。然而隻是由於越國近在咫尺，並不時騷擾進犯，唯恐其乘虛襲吳，變生肘下，後院起火，才不得已采納了伍子胥的戰略方針，先將主要矛頭指向越國。可是，雙方戰略方針上的內在分歧並沒有真正化解，而僅僅是暫時掩蓋起來，在一定的條件下，這種矛盾遲早要激化的。這就是日後導致伍子胥被迫自刎身亡悲劇的主要根源。
受時局條件的限製，吳國君臣在戰略主攻方向的選擇問題上暫時達成了一致。以此為基礎，而展開了長時間的吳越戰爭。
除了小規模的武裝衝突之外，自公元前506年至公元前496年這近10年的時間內，吳國“南服越人”戰略的實施，主要表現為戰前的準備活動。吳國先後築“武城”、“二城”，以加強自身的防禦，同時訓練軍隊，改良裝備，以增強實力。孫武作為吳國的將軍，當參與了這方麵的籌劃和實施。
可是闔閭自破楚之後，功成名就，威震四方，他不覺間便洋洋自得，漸漸滋長了一種貪求安逸享樂的思想。據《吳越春秋》卷二記載，他立夫差為太子，“使太子夫差屯兵守楚”，自己卻“治宮室，立射台”，建“華池”，造“長樂”之宮，並“於城外治姑蘇之台”以供遊樂。另據《越絕書》卷二記載，闔閭為了遊玩姑蘇台，觀賞太湖，還在胥門外修築了“九曲路”，在城外“置美人離城”，又四處建造“冰室”以貯藏珍饈佳肴享用。這與那個繼位之初“食不二味，居不重席，室不崇壇，器不彤鏤，宮室不觀，舟車不飾”（《左傳》）的闔閭相比簡直是判若兩人了。這正應了古人那句話“靡不有初，鮮克有終”。這種狀況無疑對於吳國對越國即將展開的軍事鬥爭十分不利。埋下了吳軍在槜李之戰中慘敗的引子。正所謂“驕而不亡者，未之有也”（《吳越春秋·闔閭內傳》）。孫武對闔閭的所作所為憂心忡忡，但也無計可施，隻好在一旁幹著急。