以董仲舒為代表漢代儒家，他們雖打著孔子儒家的招牌，卻在先秦儒家“仁義”學說之外，吸取了陰陽家神化封建君權的學說，也吸取了法家尊君抑臣的思想，力圖用刑法來加強專製統治。漢武帝“外施仁義”，又條定刑法，重用酷吏；漢宣帝更宣稱漢家製度是“霸王道雜之”，並且“所用多文法吏，以刑名繩下”（《史記·元帝紀》）。可見漢代儒術實質上就是熔鑄先秦各家統治術於一爐的專門為漢代統治者加強思想專製的統治術，儒家的思想禁錮是其表，法家嚴刑酷法是其裏，外儒內法，或者叫儒學加酷吏，是漢武帝，尤其是漢武帝後期政治的最本質特征。這種政治與漢武帝的對外發動戰爭，對內殘酷掠奪相輔相成，惡性循環，愈演愈烈，直到民生凋敝，危機四伏，把整個國家推到了崩潰的邊緣。關於這一點，漢武帝是供認不諱的，他曾對衛青說：“漢家庶事草創，加四夷侵陵中國，朕不變更製度，後世無法，不出師征伐，天下不安。為此者不得不勞民。若後世又如朕所為，是襲亡秦之跡也。”他采取了補救措施，拒絕在輪台（今新疆輪台）屯田遠戍，並下詔自責，“深陳既往之悔”，申明“當今務在禁苛暴，止擅賦，力本農，修馬夏令（養馬者得免搖役）以補缺，毋乏武備而已”。由此可見，司馬遷生活的時代，是一個繁榮昌盛的時代，也是一個充滿社會矛盾的時代，是西漢王朝從鼎盛走向衰落的時代。在學術上，是處在一個寬鬆到嚴厲，由自由開放到封閉禁錮的時期。司馬遷個人的理想與殘酷的現實自然發生了許多矛盾，從思想上給他打上了充滿矛盾的時代烙印。
司馬氏祖先源遠流長，簡括地說，有著兩大光榮的祖德傳統。司馬遷把傳說中的顓頊時代掌管天地的重、黎氏引為自己的祖先，並以自己出生在這樣一個具有悠久傳統的世代史官家庭中而自豪。關於重和黎的傳說，史料不多，他們都是著名的神巫，掌管天文、祭祀等事。從唐虞到夏商，重、黎的後代便世世代代承襲這一職守。本來在上古時代，巫史由一人兼任，代表天神講話，指導國家的政治、文化事業。隨著社會的發展，巫與史才分離，各有職掌。降自周代，普遍建置史官，有大史、小史、左史、右史等職。周宣王時，重、黎的後人程伯休甫失掉了世代相傳的職位，而做了“司馬”的官，從此就稱司馬氏。司馬遷認為他的始祖就是重和黎，中經唐虞夏商，迄至周朝，世世為史官。所以司馬談、司馬遷父子也都非常樂意在新的曆史條件下繼續擔任史官這一職務，生怕這一傳統在他們手裏中斷。這種世代為史官的家世，對司馬遷的影響是頗為巨大的。武將家世周宣王時的程伯休甫是一位著名的將軍，《詩經·大雅·常武》稱頌他：“王謂尹氏，命程伯休甫。左右陣行，戒我師旅。率彼淮浦，省此徐土。”《國語·楚語下》也記載了他的事跡。程伯休甫的後裔改稱了司馬氏。春秋戰國時期，由於時代動亂，司馬氏史職中絕，一族人分散到了各諸侯國，曆任各種官職。司馬遷出身的這一支，由周去晉，又遷到少梁，漢代也稱夏陽（今陝西韓城縣），秦惠王時出了個司馬錯，他是司馬遷的有係譜可稽的八世祖。
秦國著名的將領司馬錯，曆事秦惠王、武王、昭王三朝，前後36年。司馬錯曾經和縱橫家張儀在秦惠王麵前辯論過伐蜀與伐韓的利害。張儀從政治考慮，主張伐韓，理由是伐韓的實質是威脅作為天下共主的周，而周又弱小，“自知不能救，九鼎寶器必出，據九鼎，案圖籍，挾天子以令於天下，天下莫敢不聽，此王業也”。對伐蜀不感興趣，理由是蜀為“西僻之國而戎翟之倫也，敝兵勞眾不足以成名，得其地不足以為利”。司馬錯則與張儀相反，認為伐韓“未必有利”，而又有“不義之名”，容易引起其他大國的警惕。他從經濟上考慮，認為要振國威，必先要有物質基礎，他說：“欲富國者，務廣其地，欲疆兵者，務富其民。”伐蜀比伐韓的利大，“得其地足以廣國，取其財足以興民繕兵”，而且又有禁暴止亂之名，“拔一國而天下不以為暴，利盡西海而天下不以為貪”（《史記·張儀列傳》）。司馬錯的確看得比張儀遠，其謀劃也頗為精到，因而秦惠王便采納了司馬錯的建議，命司馬錯率兵伐蜀。司馬錯因伐蜀有功便做了蜀郡守。秦昭王十八年（公元前289年），司馬錯還與秦國另一位名將白起共同攻打魏國，取垣、軹等大小61城。據《秦本紀》、《六國年表》等篇記載，司馬錯7次出征，除為秦西取巴蜀外，還南奪楚黔中地，東伐魏，拓境過安邑，使秦國土地擴大了兩倍。
司馬遷的六世祖司馬錯孫名司馬靳，司馬靳曾經是白起的部下，在長平之戰中為秦軍副將。秦、趙長平之戰是戰國後期的一次大戰，趙國被殺的士卒有45萬之多，趙國從此一蹶不振。長平戰後，秦軍分三路攻趙。白起自率一軍定上黨，王乞率一軍取趙皮牢。司馬靳率一軍北定太原。公元前257年，白起因為與範雎有矛盾，很不滿意，不肯為將攻邯鄲，被秦昭王賜死，司馬斯也因連坐而死。