念頭是萌生了，可是要離開生養自己二十餘年的故土和親人，背井離鄉去追求機遇，這個決心並不容易下。所以孫武很長一段時間內對去留問題反複沉吟，難作取舍。
然而，當時突兀發生的一件事，促使孫武最後下定離開齊國，另謀發展的決心。這就是司馬穰苴的猝死。
司馬穰苴也是田氏的支庶，與孫家的關係密切。他善於統兵作戰，熟諳兵法，在軍事理論方麵有精深的造詣。作為前輩，他對愛好兵法的孫武非常器重，曾在軍事理論方麵給予孫武以很大的幫助，特別是在涉及“古代王者司馬兵法”的一些理論問題時，更是給予了孫武以寶貴的指點。孫武對這位“文能附眾，武能威敵”的前輩也是十分崇敬，處處以他作為自己的楷模。
司馬穰苴在統軍擊退燕、晉聯軍的進犯後，因功勳卓著而被齊景公“尊為大司馬”。可是“木秀於林，風必摧之”，他很快遭到敵對陣營卿大夫——高、國族的嫉妒和陷害。他們向齊景公屢進讒言，誣陷田穰苴功高震主。齊景公本來就是個昏君，聽了之後便信以為真，馬上解除了司馬穰苴的官職，剝奪了他的兵權。田穰苴遭受這一無妄之災，心情鬱悶，沾染沉屙，不久便悲慘棄世了。
司馬穰苴的猝死，給孫武以極大的震動，使他進一步看穿了齊國政壇的黑暗，知道自己再留在齊國也難以有大的作為，甚至可能同司馬穰苴一樣，也成為卿大夫之間傾軋鬥爭的犧牲品，遂最後下定決心離開齊國，再找機會。
茫茫大地，歸棲何處？
孫武環顧海內，仔細分析著各國的形勢以便作出明智的選擇。前往晉國吧，那裏的政局也不穩定，卿大夫之間互相傾軋如同齊國一般，而且晉國人才濟濟，自己一個外來戶，要想出人頭地，實在太不容易；去楚國吧，那裏國君昏庸，權貴把持政權，排斥英才，而且政局也潛伏著危機，賢臣伍奢被殺，伍子胥出走就是證明，所以也不能去；去秦國吧，它各方麵都比較落後，且偏居一隅，自己在那裏恐怕難有作為；那麼就近到魯國去，也不成。那裏最為守舊，重文輕武，而且權臣當道，連孔夫子這樣的賢人都沒有啟用，我孫武去那裏不是自討沒趣嗎？
至於宋、鄭、衛等國家，位處四戰之地，國小力弱，更是不適宜去的國家了……
最後，孫武把目光轉到了南方的吳國。
吳國在今江蘇南部，地處海濱，土地肥沃，有漁鹽之利。它南和越國接壤，西跟強楚為鄰，北與齊晉相望。相傳周太王喜歡小兒子季曆之子昌，欲傳位於季曆而及昌，其長子和次子太伯、仲雍知其父之意，為了避讓，就來到了江南一帶拓地立國。至其第十九代時，傳位到壽夢。這個壽夢眼光開闊，頭腦靈活，他積極向周圍和中原的國家學習，並不斷拓疆開土。兼並了今蘇南、蘇北、皖南、浙北的大片土地。公元前584年，吳國伐郯之戰，引起中原列國的強烈震動。特別是晉國的巫臣來到吳國後，帶來了中原國家先進的武器和部分武裝人員，又教給吳國使用這些武器的先進技術，尤其是采用了巫臣的“聯晉反楚”的策略，在短短幾十年時間裏，吳對楚作戰屢戰屢勝，奪取了楚在東方的大片土地。自此，吳國漸漸興旺發達起來。作為一個後起的國家，這裏政治清明，頗有新興氣象，正是有誌之士發揮才能，建功立業的良好處所。
在認真觀察了當時各國的形勢之後，孫武終於認定吳國是自己最有希望施展才能和實現理想的場所，於是就果斷作出南下吳國的選擇。
主意一旦打定，孫武便積極行動起來。