元朔三年（公元前126年），司馬遷剛滿二十歲，就展開了一次走遍半個中國的遊學。這次遊學也許是奉父親之命，也可能是師長們的提議，還有一個可能是朝廷的指派，具體原因已不可考，但至少有下列幾個任務：第一，行萬裏路，勝讀萬卷書，司馬遷的父親希望兒子通過遊曆，增長見識，好像今天的父母送兒女到國外留學一般。第二，遭秦火後，先秦的文獻大都毀滅了，朝廷希望司馬遷到東、南各地搜集未遭焚毀的斷簡殘篇，像在孔子的舊宅發現《古文尚書》一樣，在遺留文物方麵有新發現。第三，為了複原先秦的曆史，孔安國等師長希望司馬遷能在各地搜集口述曆史資料，以補曆史文獻的不足。據記載，司馬遷的這次大遊曆，曆時至少二三年，無論在發現殘留古文獻方麵，還是在搜集口述史方麵，都大有收獲，特別是，這次遊曆對他日後完成《史記》有相當大的幫助。
對他遊曆的路線，後人有幾種猜測，有一種猜測是，他大概是從京都長安出發，走出武關（今陝西商縣東），經過南陽（今河南南陽縣），在南郡（今湖北江陵縣）渡長江，到達湖南的洞庭湖，在湖中的君山上，他見識了南方特有的斑竹。後人有詩雲“斑竹一枝千滴淚”，這句詩包含一個典故：據傳說，竹子上的斑點，是眼淚染成的。誰的眼淚？帝舜的兩個妃子娥皇和女英的眼淚。當年帝舜巡視南方，走到湖南南部蒼梧山的原野中，不幸得病逝世，就地安葬於九嶷山。遠在北方的娥皇和女英聽到這個噩耗，心如刀絞，立刻乘坐馬車和木船，往南方奔喪。一路上悲傷極了，淚如雨下。近人有詩雲：“淚揮頓作傾盆雨。”這是說，她們傷心的眼淚，將老天爺也感動了，頓時下起傾盆大雨來，因為這場大雨是娥皇和女英的眼淚感化而成的，所以雨中也帶有極度悲傷的血淚，這種血雨灑在南方的竹林上，竹子上便出現斑點的痕跡。從此南方便有了斑竹。
斑竹又叫湘妃竹，為什麼叫湘妃竹呢？因為後來又生變故，真是禍不單行，娥皇和女英坐船在湘水上航行，溯江而上，要到九嶷山上去祭奠帝舜，沒想到風波驟起，船翻了，二人都落水淹死。上帝封這兩個妃子的魂魄為湘水的神靈，後人就稱其為湘夫人或湘妃。屈原寫的《九歌》中就有一篇叫《湘夫人》，這是後人祭祀她們的歌詞。
這兩個妃子的傳說太美了，司馬遷也深受感動，便產生了參拜舜的陵墓的願望，他雇船溯沅江而上，終於到達零陵郡營道縣（今湖南寧遠縣）的九嶷山，經過一番探尋，發現了舜的葬處。舜陵的前麵，還留存著原始的祭壇的遺跡。當地的民眾告訴他，九嶷山的名字源自九個相似的峰頭，而九個峰頭的名字又分別是丹朱峰、石城峰、樓溪峰、娥皇峰、舜源峰、女英峰、簫韶峰、紀峰、紀林峰，都與舜的經曆有關。
司馬遷在舜陵旁參拜，不禁想起了古文獻中對舜的描述，他知道舜雖然是個傳說中的人物，但《尚書》的《堯典》和《舜典》對舜有詳細的記述，《堯典》上說：有一天，帝堯召集四嶽部落的領袖們來議事，說道：“我在位七十年了，日漸年老，你們中有誰能繼位的嗎？”四嶽部落的領袖們說：“我們的德行不堪勝任尊位。”堯就說：“我們應當推舉那種屈居下位的能人。”眾人才向堯推薦道：“有個單身漢現在下民之中，名叫虞舜。”堯點頭道：“不錯，我也聽說過，這個人到底怎麼樣？”四嶽回答說：“他是一個盲人的兒子，父親不講道德，後母愛說壞話，弟弟驕傲凶狠，但是他能夠用孝順之道跟他們和睦相處，使他們上進，不幹壞事。”堯說：“讓我考驗一下他吧。”在這種情況下，堯把兩個女兒嫁給舜，通過她們來觀察舜的德行。舜叫她們放下架子，住在媯水北岸，遵守做媳婦的禮節。堯很讚賞他這樣做。
《尚書》的《舜典》上說：舜又名重華。他的美德傳到帝堯的耳朵裏，帝堯決定培養他做接班人，首先讓他擔任各種重要的職務，以考驗他的才能，如掌管教育，管理宮廷的四道門戶，迎送賓客等，他都能勝任。最後帝堯派他到深山叢林中去執行一項極端艱巨的任務，叢林中有豺狼虎豹、毒蛇螞蝗、瘴氣毒霧，舜毫不推辭，獨身進入叢林探險，遇上狂風暴雨，他沒有迷失方向，執行好任務後，安然返回，帝堯認定舜有戰勝各種艱難的超人本領，便對他說：“我考察你三年了，你完全可以登上帝位了。”