司馬遷長到5歲時，發生了一件大事情。大漢天子去世了，當時年僅16歲的皇子劉徹登基做了皇帝，他就是漢武帝。
農家的孩子懂事早。司馬遷和鎮上的同齡男孩一樣，趕著家裏的耕牛，到野外放牧。芝川的田野，可以北眺龍門，東望黃河，聯係到一些美好的傳說，少年的司馬遷，引起多少幻想啊！他喜歡在趕牛出去時，往牛背上搭一冊刻了字的竹簡。當牛安靜自在地吃草時，其他的牧童在玩遊戲，司馬遷卻在草地上攤開竹簡，取一根樹枝，照著竹簡上的字，在地麵上描畫。
◎竹簡：削製而成的狹長竹片（也有術片），竹片稱簡，木片稱劄或牘，統稱為簡，現在一般說竹簡。古代沒有紙，字就寫在竹簡上，竹簡是戰國至魏晉時代最主要的書寫材料。
放牛的夥伴感到很奇怪，圍攏來看他在地上畫什麼古怪的圖畫。
司馬遷對他們說，他是在練習寫字，等竹簡上的漢字都會念會寫，就可以讀整篇文章了。說著，他便點著地上的字教夥伴們讀，像日、月、山、川、牛、羊、蟲、魚等。夥伴們見他在識字寫字，覺得他很了不起，因為那時候，一般的莊稼漢。很少有識文斷字的。
大家玩累了。便坐下來聽司馬遷講一些從他父親那兒聽來的故事，那些故事經過司馬遷的加工，夥伴們聽得津津有味。司馬遷懂得很多，這群孩子都很佩服他，也很羨慕他。當然，司馬遷和夥伴們的關係也很好。有時候他練字太入神了，牛吃著草走遠了也沒有發覺。一些夥伴就悄悄地幫他把牛趕回來，不讓他家的牛走失。
一天，快吃晚飯了，父親把司馬遷叫到眼前，指著一本書說：“孩子，近幾個月你一直在外放羊，沒工夫學習，我也公務纏身，抽不出空來教你，現在趁飯還沒熟，我教你讀書吧！”司馬遷看了看那本書，又感激地望著父親，說：“爸爸，這本書我讀過了，請你檢查一下，看我讀得對不對。”說完，把書從頭至尾背誦了一遍。
聽完司馬遷的背誦，父親感到非常奇怪。他不相信世界上真有神童，不相信無師自通，也不相信傳說中的神人點化。可是，司馬遷是怎麼會朗讀、會背誦的呢？他反複思量著：莫非司馬遷不好好放羊，把放羊的時間都拿來讀書啦！
第二天，司馬遷趕著羊群在前麵走著，父親在後邊偷偷地跟著。羊群翻過村東的小山，過了山下的溪水，來到一片窪地。窪地上水草豐美，綠油油的惹人喜愛。司馬遷把羊群趕到草地中央，等羊群吃穩後，他就從懷中掏出一本書來讀，那朗朗的讀書聲不時地在草地上空縈繞回蕩，看著這一切，父親全明白了。他高興地點點頭，說：“孺子可教，孺子可教也！”
過了一年，年輕的漢武帝任用賢人，有人就推薦了司馬談，武帝了解到司馬談很有學問，又是史官家族的後人，因此下令召見，讓司馬談入朝當了太史令，盡管職位不高，但畢竟是入朝做官，在當地也是一件大事。這件事立即傳遍了夏陽縣和芝川鎮。司馬談也認為多年來自己一直研習學問，現在施展才華的機遇終於來臨了。整個家庭也為他感到高興和驕傲。
父親入京為官，司馬遷自然感到高興。同時他也對京城充滿了好奇：皇宮的房子是什麼樣子的？皇城的城牆高不高？年輕的皇帝凶不凶？皇城的街上好玩不好玩？
父親進京做官了，在家放牛的司馬遷，卻沒有放鬆學習。對父親布置的那些要熟讀、背誦的文章，總是認真誦讀，爛熟於心。每次父親休假回家，檢查他的功課，都露出滿意的微笑。為了讓父親高興，他更加發憤努力，何況他也從讀書中得到了樂趣。
司馬遷9歲時，通讀了《詩》、《書》，許多篇章能背誦自如。他的好奇心更大了，常常找出父親放在家裏的古籍竹簡，似懂非懂地看起來。不懂的地方，他就記下來，等父親回家時請父親講解。他越來越被一種神秘的力量所吸引。神秘的力量來自那些陳舊的竹簡，裏麵有一個豐富多彩的世界，藏著無數有趣的故事和深奧的道理。他渴望自由自在地進入到那個神秘的世界裏去。
司馬遷10歲的時候，就能誦讀《左傳》、《春秋》、《國語》等古代史籍了。漢朝的時候，一個學童想步入仕途，不僅要能背誦一些製度條文，能理解、發揮這些條文的意思，而且還要會寫9000個字，會八體的書寫，這樣才有被一級一級推舉做官的可能。文字的書寫在當時要求非常嚴格，一個字寫錯，就有可能丟性命。在如此嚴厲的文字製度下，小司馬遷要有多大的恒心和毅力才能學會八體的書寫，才能會寫9000個字，才能會誦讀諸如《國語》之類的古文啊！這不是一朝一日的功夫所能練成的。達到上述要求應是對高級人才的培養，這就要求有家學淵源和師承，非一般農家孩童所能誦習。司馬遷聰明絕倫，在10歲時他不僅已經過了“書古文”的學習，而且能夠誦習古文，閱讀古文書籍。