漢文帝力倡節儉的極端表現，是在營建他的陵墓霸陵時，提出“皆以瓦器，不得以金銀銅錫為飾，不治墳，欲為省，毋煩民。”隨葬品使用陶器，地宮不允許使用金銀銅錫作豪華的裝飾，陵上地麵不築封土，以求儉省，希望不致煩擾民眾。
霸陵薄葬，據說是聽從了張釋之的建議。
《史記·張釋之馮唐列傳》記載，張釋之任中郎將時，跟隨漢文帝到霸陵。當時慎夫人隨從，漢文帝指示慎夫人新豐道，說：“此走邯鄲道也。”又讓慎夫人鼓瑟，漢文帝親自應和著瑟聲而歌，“意慘淒悲懷”，他環顧群臣說：啊！以北山石為棺槨，用紵絮斮陳，蕠漆其間，誰能夠破壞這陵墓呢！左右群臣都讚同道：是啊。張釋之卻進前說道：“使其中有可欲者，雖錮南山猶有隙；使其中無可欲者，雖無石槨，又何戚焉！”如果其中有可以刺激盜墓者貪欲的隨葬品，就是把南山澆鑄成一個整體，也有空隙可以盜掘；如果其中沒有令盜墓者垂涎者，就是沒有石槨，又有什麼可以擔心的呢！漢文帝認為他說得對。此後張釋之就被提升為廷尉。
唐代詩人鮑溶的《倚瑟行》回顧了這一故事，其中寫道：“金輿傳驚灞滻水，龍旗參天行殿巍。左文皇帝右慎姬，北麵侍臣張釋之。因知高處邯鄲道，壽陵已見生秋草。萬世何人不此歸，一言出口堪生老。高歌倚瑟流清悲，徐樂哀生知為誰。臣驚歡歎不可放，願賜一言釋名妄。明珠為日紅亭亭，水銀為河玉為星。泉宮一閉秦國喪，牧童弄火驪山上。與世無情在速貧，棄屍於野由斯葬。生死茫茫不可知，視不一姓君莫悲。始皇有訓二世哲，君獨何人至於斯。灞陵一代無發毀，儉風本自張廷尉。”
漢文帝後七年（前157）夏六月己亥日去世，遺詔有對喪葬事宜的明確指令。他任命中尉周亞夫為車騎將軍，屬國徐悍為將屯將軍，郎中令張武為複土將軍，發近縣見卒萬六千人，發內史卒萬五千人，藏郭穿複土屬將軍張武。按照這一安排，乙巳日，漢文帝葬霸陵。同日，群臣皆頓首上尊號曰孝文皇帝。兩天後，漢景帝劉啟正式登基。可以說，漢景帝劉啟繼承漢王朝的最高統治權之後完成的第一件大事，是安葬自己的父親漢文帝。
《史記·孝文本紀》記載，漢文帝一生儉樸，曾經宣布：“治霸陵皆以瓦器，不得以金銀銅錫為飾，不治墳，欲為省，毋煩民。”臨終又明確詔令喪事從簡：“其令天下吏民，令到出臨三日，皆釋服。毋禁取婦嫁女祠祀飲酒食肉者。自當給喪事服臨者，皆無踐。絰帶無過三寸，毋布車及兵器，毋發民男女哭臨宮殿。宮殿中當臨者，皆以旦夕各十五舉聲，禮畢罷。非旦夕臨時，禁毋得擅哭。已下，服大紅十五日，小紅十四日，纖七日，釋服。佗不在令中者，皆以此令比率從事。布告天下，使明知朕意。”對於喪葬儀式的形式、規模以至具體的細節，都囑咐不得鋪張。
漢文帝在這段文字之後，又明確指示：“霸陵山川因其故，毋有所改。”這一詔令也可以理解為霸陵葬製即埋葬規格同樣“因其故”，也就是按照既定方針，“毋有所改”。顏師古說，漢文帝“自崩至葬凡七日也”。實際上，漢文帝在去世之後第六天即安葬，可知此前已經有比較充分的準備。由此可以推想漢文帝殯葬從簡的願望可能是得到了主持喪事者的尊重的。
霸陵複土工程隻動用了三萬一千人，也說明工程量不大。與秦始皇陵複土工程使用工役達七十萬人左右的情形比較，可以說是天壤之別。
霸陵薄葬，在喪葬史上傳為千古佳話，也成為帝王節儉的典範。後人對於霸陵薄葬，多有讚美之辭，即《史記·孝文本紀》索隱述讚所謂“霸陵如故，千年頌聲”。《藝文類聚》卷七九引南朝梁沈炯《歸魂賦》：“咄嗟驪山之阜，惆悵灞陵之園。文恭儉而無隙，嬴發掘其何言。”據《梁書·太宗王皇後傳》，梁武帝詔書也說到“昔西京霸陵，因山為藏”，並以為“敦樸”、“約儉”的典範。又白居易《草茫茫—懲厚葬也》詩說秦始皇陵被盜情形，“一朝盜掘墳陵破，龍槨神堂三月火。可憐寶玉歸人間，暫借泉中買身禍。”隨後又進行了對比：“奢者狼藉儉者安，一凶一吉在眼前。憑君回首向南望，漢文葬在霸陵原。”霸陵，被看作“儉者安”的典型。唐人鮑溶詩也寫道：“霸陵一代無發毀，儉風本自張廷尉。”《舊五代史·周書·太祖紀四》載郭威語，也說：“朕攻收河府時，見李家十八帝陵園，廣費錢物人力，並遭開發。汝不聞漢文帝儉素，葬在霸陵原，至今見在。”
不過，對於霸陵是否真的堅持了薄葬原則，例如其中是否確實隻是以陶器隨葬，爭議也千古未能平息。
兩漢之際，赤眉軍入關中，曾經有發掘漢帝諸陵，取其寶貨的行為。據說隻有漢文帝霸陵和漢宣帝杜陵得以保全。赤眉軍發掘西漢帝陵事，發生於退出長安之後，陷於窘迫情境之時。《漢書·王莽傳下》寫道：“赤眉遂燒長安宮室市裏，害更始。民饑餓相食，死者數十萬，長安為虛，城中無人行。宗廟園陵皆發掘，唯霸陵、杜陵完。”《後漢書·劉盆子傳》也記載：“發掘諸陵，取其寶貨，遂汙辱呂後屍。凡賊所發，有玉匣殮者率皆如生，故赤眉得多行婬穢。”赤眉軍對西漢帝陵的破壞，為曆史上軍事集團公開以武力發掘帝陵事件之先聲。所謂“宗廟園陵皆發掘，唯霸陵、杜陵完”，成為鮮明的對照。
其實，赤眉軍“發掘諸陵”，隻是西漢帝陵遭到公開破壞之最極端的史例，皇帝陵園被民間盜墓者盜掘的情形，史籍中還可以看到零星的記錄。例如，霸陵隨葬錢幣在漢武帝時代曾經遭到盜掘的事件就曾經引起關注。可知就陵園的總體安全而言，霸陵早已不“完”。史籍中還可以看到霸陵遭到盜掘的正式記載，這些文字受到對霸陵薄葬持否定意見的學者的重視。
《漢書·張湯傳》記載了霸陵隨葬錢幣被盜掘的事件：“會人有盜發孝文園瘞錢，丞相（嚴）青翟朝，與（張）湯約俱謝，至前，（張）湯念獨丞相以四時行園，當謝，（張）湯無與也，不謝。丞相謝，上使禦史案其事。”“瘞錢”，按照顏師古注引如淳的解釋，即：“瘞，埋也，埋錢於園陵以送死也。”王先謙《漢書補注》引錄沈欽韓的解釋：“《唐書·王璵傳》：漢以來喪葬皆有瘞錢。”“蓋此瘞錢埋墓四隅，《傳》稱‘盜發’者即是四隅所瘞，不在塚藏中也。”“孝文園瘞錢”被“盜發”，丞相嚴青翟上朝時與禦史大夫張湯相約一同謝罪，臨至禦前，張湯心想隻有丞相“以四時行園”，負有巡查保護陵園的職責，而作為禦史大夫於此事沒有直接責任，不必要謝罪。於是丞相嚴青翟獨自謝罪，而漢武帝又指令禦史大夫張湯處理此事，於是引發了兩人的矛盾。霸陵瘞錢被盜，距離漢文帝入葬不過四十年左右。