張載中進士後，先後任祁州（今河北安國）司法參軍，雲岩縣令（今陝西宜川境內）著作佐郎，簽書謂州（今甘肅平涼）軍事判官等職。在作雲岩縣令時，辦事認真，政令嚴明，處理政事以“敦本善俗”為先，推行德政，重視道德教育，提倡尊老愛幼的社會風尚，每月初一召集鄉裏老人到縣衙聚會。常設酒食款待，席間詢問民間疾苦，提出訓戒子女的道理和要求，縣衙的規定和告示，每次都召集鄉老，反複叮嚀到會的人，讓他們轉告鄉民，因此，他發出的教告，即是不識字的人和兒童都沒有不知道的。在渭州，他與環慶路路經略使蔡挺的關係很好，深受蔡挺的尊重和信任，軍府大小之事，都要向他谘詢。他曾說服蔡在大災之年取軍資數萬救濟災民，並創“兵將法”，推廣邊防軍民聯合訓練作戰，還提出罷除戍兵（中央軍）換防，招募當地人取代等建議。在此時他還撰寫了《經原路經略司論邊事狀》和《經略司邊事劃一》等，展現了他的軍事政治才能。
神宗熙寧二年（1069）禦史中丞呂公著（晦叔）向神宗推薦張載，稱讚張載學有本原，四方之學者皆宗之，可以召對訪問。神宗召見張載，問他治國為政的方法，張載說：“皆以漸複三代為對。”（三代即夏、商、周），神宗聽了非常滿意，高興的說，你先到二府（中書省樞密院）作些事，以後我還要重用你。張載認為自己剛調入京都，對朝廷王安石變法了解甚少，請求等一段時間再作計議，後被任命為崇文院校書。當時王安石執政變法，想得到張載的支持。有一天見到張載對他說：“朝廷正要推行新法，恐怕不能勝任，想請你幫忙，你願意嗎？”（今譯）張載回答說：“朝廷將大有為，天下之士願與下風，若與人為善，則熟敢不盡！如教與人追琢，則人亦故有不能。”張載一麵讚同政治家應大有作為，但又含蓄地拒絕參與新政的行為，逐漸引起了王安石的反感。張載擬辭去崇文院校書職務，未獲批準。不久被派往浙東明州（今浙江省寧波）審理苗振貪汙案，案件辦畢回朝。此時張載之弟監察禦史張戩因反對王安石變法，與王安石發生激烈衝突，被貶知公安縣（今湖北江陵），張載估計自己要受到株連，於是辭官回到橫渠。
張載回到橫渠後，依靠家中數百畝薄田生活，整日講學讀書，“俯而讀，仰而思。有得則識之，或半夜坐起，取燭以書……。”在這期間，他寫下了大量著作，對自己一生的學術成就進行了總結，並親自帶領學生進行恢複古禮和井田製的兩項實踐。為了訓戒學者，他作《砭愚》、《訂頑》訓辭（即《東銘》、《西銘》），書於大門兩側。張載對推行“井田”用力最多，他曾把自己撰寫的《井田議》主張，上奏皇帝，並與學生們買地一塊，按照《周禮》的模式，劃分為公田，私田等分給無地、少地的農民，並疏通東西二渠“驗之一鄉”以證明井田製的可行性和有效性。今橫渠鎮崖下村，扶風午井鎮、長安子午鎮仍保持著遺跡，至今這一帶還流傳著“橫渠八水驗井田”的故事。
熙寧十年（1077）秦風路（今甘肅天水）守帥呂大防以“張載之學，善法聖人之遺意，其術略可惜之以複古”為由，上奏神宗召張載回京任職。此時張載正患肺病，但他說：“吾是行也，不敢以病辭，庶幾有遇焉。”意思是說這次召我回京，不能因病推辭，借此機會可行施我的政治理想和主張，便帶病入京。神宗讓他擔任同知太常職務（禮部副職）。當時有人向朝廷建議實行婚冠喪祭之禮，下詔禮官執行，但禮官認為古今習俗不同，無法實行過去的禮製。唯張載認為可行，並指出反對者的作為“非儒生博士所宜”因而十分孤立，加之病重，不久便辭職西歸。路經洛陽見到二程時說：“載病不起，尚可及長安也。”當年農曆十二月行至臨潼，當晚住在館舍，沐浴就寢，翌日晨與世長辭。享年五十八年，臨終時隻有一個外甥在身邊。
張載的一生，兩被召晉，三曆外仕，著書立說，終身清貧。歿後貧無以殮。在長安的學生聞訊趕來，才得以買棺成殮，護柩回到橫渠。翰林院學士許詮等奏明朝廷，乞加贈恤。神宗下詔按崇文院三館之職，賜喪事支出“半”數，宋神宗元豐元年（1078）三月，將張載葬於橫渠大振穀其父張迪墓南，與弟張戩墓左右相對。
南宋嘉定十三年（1220）宋寧宗賜諡“明公”，淳佑元年（1241），賜封眉伯，從祀孔廟，明世宗嘉靖九年（1530）改稱先儒張子。