在巴比倫生活了5年以後(這期間他或許還去過印度)，畢達哥拉斯終於踏上回鄉之路。當他乘船回到薩摩斯島時，離出發已有19年了，比起後來法顯和玄奘去印度，馬可·波羅到東方都要長久。畢達哥拉斯離開故鄉時可謂英姿勃發，如今回來卻已經兩鬢斑白。剛開始薩摩斯人表現出難得的熱情，市政長官也請他向公眾發表演說，介紹東方之旅的見聞，市民們紛紛湧來，他們很想聽他分析，強大的波斯人會不會打過來(如前文所說，這座島嶼後來果然被波斯帝國占領了)。
可是不久，島民的狹隘意識再次顯露出來。人們的態度分成了兩種，年輕人認為畢達哥拉斯是一個智者，年長的人認為他是一個狂人。終於有一個與他同名的孩子迷上了解數學題，偷偷地來跟他學習，並說服了家長，這個孩子後來成為提倡運動員注意飲食的第一人。受這個學生的鼓勵，畢達哥拉斯依山辦起了一座“半圓學校”，雖然當地的權貴和商人不喜歡他，不過由於他在埃及贏得的聲望，青年人依然紛紛湧來。
那時候希臘已有許多小酒館，島民最害怕的就是孤獨，薩摩斯人常常自帶魚幹或橄欖，問店主買來一杯酒，在那裏相互傳遞消息。居住在山洞裏的畢達哥拉斯和他的弟子們自然而然就成為議論的對象，經過一番添油加醋，他的提問式教育方法、內容和對當地諸如祭神方式等的批評受到了譏笑甚至怒罵，其中的一大忌諱是“數就是神”。他先是被迫把教學內容改為單純的數學，接著便把創辦不滿一年的學校關閉了。
記敘基督事跡的《約翰福音》裏寫道，“先知在本地是不受尊敬的”。畢達哥拉斯50歲那年，不得不再次離開薩摩斯，從此沒有返回過故鄉。這回他決心去意大利，不過第一站是到得洛斯看望菲爾庫德斯。這並非他最後一次來到這座小島，幾年以後，恩師病危，他再次趕來守護。接著，畢達哥拉斯走訪了雅典、克裏特島和斯巴達城邦，後者位於希臘本土伯羅奔尼撒半島的東南，人民以驍勇尚武著稱，那時雅典尚未興盛，而克裏特已經衰落。
在伯羅奔尼撒半島的另一頭，坐落著一個叫伊利斯的城邦，四年一度的奧林匹克運動會正在那裏舉行。那時候奧運會已經創辦了兩個半世紀，雖然隻有10多個項目，比賽時間卻長達5天，選手們來自歐亞非三大洲。從奧林匹亞乘船，向西渡過更為遼闊的伊奧尼亞海，就是意大利的南方了。賽會一結束，畢達哥拉斯便搭船出發了，他所抵達的克羅托內(Crotone)位於亞平寧半島的最南端，以盛產奧林匹亞賽會冠軍遠近聞名。我們甚至可以猜測，他是跟隨那些得勝回家的奧運冠軍們來到了意大利。
就像重返薩摩斯島時一樣，克羅托內的市政長官也邀請畢達哥拉斯向公眾發表演說，沒想到，這一次竟然大獲成功，甚至權貴們和年長的公民也被折服了。大希臘是個多神教的國家，意大利南方最崇拜的是酒神狄奧尼索斯，人們喜歡縱情歌舞(這一習性一直保留至今，這也是意大利南方經濟落後於北方的主要原因)，並無太多的嫉妒之心。與此同時，有過一番經驗教訓以後，畢達哥拉斯成熟了許多，談吐也更加文雅了，舉手投足都顯得超凡脫俗。
很快，畢達哥拉斯便有了一大批擁戴者，其中一個是跳遠的奧運冠軍，他把自己的啞女狄亞諾許配給了這位異鄉人，兩人生下了一對兒女。這樣一來，畢達哥拉斯就過上了安定的生活。他先是建議市政府為繆斯(希臘神話中的一組女神，起先隻是詩人的保護人，後來掌管的範圍擴大，兼及包括體育在內的一切文科乃至科學)修築了神廟，接著在郊外辦起了一所被稱為“城中之城”的學校或社團。