司馬遷從小就喜愛讀書寫字，這也是他最大的嗜好，別的小孩喜愛做一些普通的遊戲，如捉迷藏，投壺等，他卻纏著大人，要他們講說曆史故事，他聽完故事後，還善於給古人排座次，分類別，如把帝王和後妃排成一類，然後分出高下，再把將相們排成一行，從中分出強弱等級。小小年紀，已經憑借直覺，會評論曆史人物了。
他讀書的能力非常人可比，達到了一目十行，過目不忘的程度，親戚們都稱讚說：“司馬家出了一個神童。”他父親聽了，當然高興，但也有幾分擔憂，自古天才往往結局不佳，或短命（如賈誼），或被害（如韓非），或大紅大紫一陣，卻下場很慘（如李斯），所以父親希望兒子還是愚魯點好。
但司馬遷絕不是愚魯的孩子，他年方十歲，就能誦讀古文書了。但司馬遷時代的古文和我們今天所說的古文大不相同，當時的古文指的是一種先秦古文字，稱做籀書，又稱大篆，十分不規則，極難辨認，同時也指用蝌蚪似的籀書，即大篆書寫的先秦典籍，如《尚書》《禮記》《論語》《孝經》等儒家典籍，還有《左傳》《國語》《五帝德》《帝係姓》等曆史讀物。五四新文化運動，白話文代替文言文。我們今天說的“今文”指白話文。而司馬遷時代的“今文”指一種容易認識的字體，稱為小篆或隸書，當然也指用小篆或隸書書寫的書籍。
司馬遷八歲入學，開始讀的都是今文寫的書，司馬遷一看就會，因為他三四歲的時候，在家中已經在父親的指導下，認識這些字了。在家塾中，他很快就無書可讀了，因為所有的書他都讀完了，並且能夠背誦。塾師隻好提前給他上古文課，這些古文課程，本來是某些高材生，將來有做官希望的才學習的，並且要達到一定年齡階段才學，可司馬遷一入私塾就讀古文，到十歲時，已能流利地誦讀古文，於是，人們都說高門裏出了個天才兒童。
不過，當時的古文，也有難易程度之分。有些古文書，特別難讀。如漢武帝時代，在孔子宅發現一批古書，包括《古文尚書》《禮記》《論語》《孝經》等，其中的《古文尚書》，內容深奧，文字古老，連一些《今文尚書》專家都望而卻步，隻有孔子的後人、大學者孔安國才能讀懂。由此看來，包括司馬遷在內的當時的高智商少年兒童所讀的古文，還不是孔子宅發現的《古文尚書》，而是用大篆寫的《左傳》《國語》《係本》等通俗曆史書。秦國改革文字，用隸書書寫，方便得多，但戰國時代六國的書籍照舊用大篆書寫。在漢朝時，凡是用大篆書寫的六國書籍都稱古文書，包括司馬遷讀的《左傳》《國語》《係本》等通俗曆史書。
當時學習古文，大致可分為兩個階段，即書寫古文階段和誦讀古文階段。第一階段要求認識並能寫出九千個以上的大篆文字，才算達標，而且每個字要掌握六種不同的書寫法。司馬遷具有識字的天賦，觸類旁通，隻要認識一個古文字，其他的六種書寫法他都可以憑想象推斷出來，他的這種領悟力令塾師和家長們驚訝不已。
司馬遷進入學習古文的第二階段時進步更加神速，這個階段的學習要求誦習、閱讀甚至背誦古文書籍。司馬遷過目不忘的本領又發揮了作用，不但大篆書寫的《左傳》《國語》《係本》等書他幾乎能從頭至尾閱讀和背誦，後來連深奧的《尚書》《禮記》《論語》《孝經》等也能當眾背誦好多段。司馬遷之所以能迅速通過“誦讀古文”和“書寫古文”兩個階段，既有其非凡的天賦，也和他優越的家學淵源分不開，一般農家孩童隻能看著驚羨，卻無法做到。