在熙寧變法中，司馬光與主持變法的王安石發生嚴重分歧。就其竭誠為國來說，二人是一致的，但在具體措施上，則各有偏向。王安石主要是圍繞著當時財政、軍事上存在的問題，通過大刀闊斧的經濟、軍事改革措施，來解決燃眉之急。司馬光則認為在守成時期，應偏重於通過倫理綱常的整頓，來把人們的思想束縛在原有製度的製約之內，即使改革，也一定要穩妥。司馬光的主張雖然偏於保守；但實際上是一種在“守常”基礎上的改革方略。王安石變法中所出現的偏差和用人不當等情況，證明了司馬光在政治上的老練和穩健，除了魄力不及王安石外，政治上是成熟的。
在政見不同、難於合作的情況下，司馬光退居洛陽，編纂史書，從曆史的成敗興亡中，提取治國的借鑒。司馬光著史書，可以說是他從政治國的另一方式。宋英宗同意他設立書局，自己選擇助手下屬，並將這部書命名為《資治通鑒》，親製序文，以示重視。除了允許其借閱國家所有的圖書資料外，神宗還將幾千卷舊書賞賜給司馬光作為參考。修書所需筆、墨、絹、帛等費用，全都由國家供給，這為他提供了優厚的著書條件。
司馬光選擇了劉恕、範祖禹等人做他的助手，他們既是當時第一流的史學家，又與司馬光在政治、史學上觀點一致，所以在編書過程中能夠通力合作，各顯其才。但最終使《通鑒》達到光輝頂點的，還決定於司馬光的精心著述。劉恕的兒子劉羲仲就曾經說：“先父在書局的時候，隻是搜集史料整理成長編，至於辨明是非，是棄是取，都是出自司馬君實先生的手筆。”
司馬光雖熱心於治國，但由於與王安石政見不同，沒有多少直接參與政事的機會。直到宋元豐八年（1085年）宋神宗去世後，67歲高齡的司馬光被迎回宮中，擔任了宰相一職。他回朝執政後，一切作為都是反王安石之道而行之，而且否定的步子非常急促。在他執政一年半的時間裏，竭盡全力日夜操勞，耗盡了畢生心血，終於與世長辭。噩耗傳出，“京師人為之罷市往吊，鬻衣以致奠，巷哭以過車者，蓋以千萬數”，靈柩送往老家夏縣時，送葬的百姓“哭公甚哀，如哭其私親，四方來會葬者蓋數萬人”。一位高居廟堂之上的宰相，竟能得到民眾這樣廣泛真誠的悼念，在曆史上實屬罕見。
《通鑒紀事本末》是中國第一部紀事本末體的曆史著作，共142卷，作者是南宋袁樞。袁樞精研《資治通鑒》，因為篇幅浩大，難以尋究史事，於是根據《通鑒》舊文詳加整理，每事各詳起訖，自為標題；每篇各編年月，自為首尾。這種體裁因事命篇，不拘常格，與現代史書的體裁頗為接近，是對曆史編纂學的一個重要貢獻。
南宋大儒朱熹不滿司馬光的某些觀點，編寫了一部《資治通鑒綱目》，對《資治通鑒》作了一些意味深長的改動。譬如三國曆史，司馬光以曹魏為正統，朱熹卻改作以蜀漢為正統。因此，這本書在後世一直被當做最具政治正確性的曆史讀物，被譽為“萬世史筆之準繩規矩”。
《資治通鑒》的曆代續書者不乏其人，清代學者畢沅的《續資治通鑒》無疑是其中出類拔萃之作。這部書取材宏博，考證謹嚴，編排合理，總引資料達300餘種，還增加了少數民族的資料。梁啟超對該書評價極高，認為“有畢《鑒》，則各家續《鑒》可廢”。