在那個時候，死刑也是有減免辦法的。據漢朝的刑法，死刑有兩種減免辦法：一是拿五十萬錢贖罪，二是受“宮刑”。司馬遷官小家貧，當然拿不出這麼多錢贖罪。而宮刑對於一個人來講，又是一種大辱，汙及先人，見笑親友，既殘酷地摧殘人體和精神，也極大地侮辱人格。司馬遷當然不願意忍受這樣的刑罰，悲痛欲絕的他甚至想到了自殺。可後來他想到，人總有一死，但“死或重於泰山，或輕於鴻毛”，死的輕重意義是不同的。他想到了孔子、屈原、左丘明和孫臏等人，想到了他們所受的屈辱以及所取得的驕人成果。所以，司馬遷最終選擇了宮刑。在獄中，司馬遷備受淩辱，“交手足，受木索，暴肌膚，受榜棰，幽於圜牆之中，當此之時，見獄吏則頭搶地，視徒隸則心惕息。”（司馬遷《報任安書》）幾乎斷了性命。麵對最殘酷的刑罰，司馬遷痛苦到了極點，但他此時沒有怨恨，也沒有害怕。他隻有一個信念，那就是一定要活下去，一定要把《史記》寫完，“是以腸一日而九回，居則忽忽若有所亡，出則不知所往。每念斯恥，汗未嚐不發背沾衣也。”正因為還沒有完成《史記》，他才忍辱負重，苟且偷生地活了下來，希圖出現一線轉機。
公元前96年，漢武帝改元大赦天下。這時司馬遷五十歲，出獄後當了中書令，他專心致誌寫他的書。直到公元前91年，全書完成，共得130篇，52萬餘言。
司馬遷因其早期生命體驗與融合儒道而形成的生命意識，弘揚一種超越於社會功利層麵的理想主義精神追求。司馬遷的受刑，既是社會的悲劇，也是個性的悲劇，遭受宮刑的人生悲劇玉成了《史記》悲劇精神的目的性、堅韌性與超越性；從而在這兩個基礎上形成司馬遷超越於生死關係之上的價值觀。忍辱著述的創作心態使《史記》帶有濃厚的人文理想色彩。
“忍辱負重”是一種抗爭術，這四個字說起來容易，真正能做到、做好太難了！對於做大事的人來說，忍辱負重是成就事業必須具備的基本素質。孟子說：“天將降大任於斯人也，必先苦其心誌，勞其筋骨，餓其體膚，困乏其身……”能在各種困境中忍受屈辱是一種能力，而能在忍受屈辱中負重拚搏更是一種本領。
《史記》是我國曆史學上一個劃時代的標誌，是一部“究天人之際，通古今之變，成一家之言”的偉大著作，是司馬遷對我國民族文化特別是曆史學方麵的極其寶貴的貢獻。司馬遷和他的千秋名著《史記》是個龐大的存在，聳立在中國曆史和文學的大道上，沒有誰能繞得過去，也沒有誰的作品能取代。他的偉業，他空前絕後的文采，他對中國曆史文化無人取代的卓越貢獻，還有他作為男人遭遇的曠世屈辱，既讓人景仰、誠服和擊節讚歎，又讓人心生悲憫。
司馬遷於公元前96年遇漢武帝大赦天下而出獄，出獄後任中書令，繼續發憤著書，終於完成了《史記》的撰寫。人稱其書為《太史公書》。是中國第一部紀傳體通史，對後世史學影響深遠，《史記》語言生動，形象鮮明，也是優秀的文學作品。司馬遷還撰有《報任安書》，記述了他下獄受刑的經過和著書的抱負，為曆代傳頌。
《史記》是司馬遷用一生的精力、艱苦的勞動，並忍受了肉體上和精神上的巨大痛苦，拿整個生命寫成的一部永遠閃耀著光輝的偉大著作。全書包括十二“本紀”，三十“世家”，七十“列傳”，十“表”，八“書”，共五個部分，約五十二萬六千多字。
《史記》之所以能有如此大的影響力，恐怕與其所記錄的真實性有很大的關係。司馬遷撰寫史記，態度嚴謹認真，實錄精神是其最大的特色。他寫的每一個曆史人物或曆史事件，都經過了大量的調查研究，並對史實反複作了核對。這些均可以看得出來，為傳寫《史記》，司馬遷付出了多麼大的努力。司馬遷早在二十歲時，便離開首都長安遍踏名山大川，實地考察曆史遺跡，了解到許多曆史人物的遺聞鐵事以及許多地方的民情風俗和經濟生活，開擴了眼界，擴大了胸襟。漢朝的曆史學家班固說，司馬遷“其文直，其事核，不虛美，不隱惡，故謂之實錄”。也就是說，他的文章公正，史實可靠，不空講好話，不隱瞞壞事。這便高度評價了司馬遷的科學態度和史記的記事翔實。曆史文獻之最可貴之處就在於真實，司馬遷能做到如此，不愧被人們給予那麼高的讚譽。
要堅持“實錄”精神，對於當時的社會來說，並不是件容易的事，必須要麵對現實、記錄現實，然而這就不可避免地會發生“忌諱”的問題。想他之所以受宮刑之罰，不就是因為其力求“實錄”所致嗎？可是他並沒有因受如此大的懲罰而改變原則。在給人物作傳記時，並不為傳統曆史記載的成規所拘束，而是按照自己對曆史事實的思想感情記錄。從最高的皇帝到王侯貴族，到將相大臣，再到地方長官等等，司馬遷當然不會抹殺他們神奇、光彩的一麵，但突出的是揭露他們的腐朽、醜惡以及對人民的剝削和壓迫。尤其揭露了漢代統治階級的罪惡。他雖是漢武帝的臣子，但對於他的過失，司馬遷絲毫沒有加以隱瞞，他深刻揭露和批判了當時盛行的封禪祭祖、祈求神仙活動的虛妄。在當時言論並不自由，且時時受漢武帝監督的情況下，司馬遷要做到真實記錄，需要麵對多麼大的壓力，是很難想象的。司馬遷想為封建統治者提供曆史的借鑒作用，反映的是真實的曆史，這是非常可貴的。