陶鑄出身於一個貧苦的鄉村小知識分子家庭。他小的時候，家裏非常窮苦，六口人全靠父親教書的微薄工薪度日，雖然節衣縮食但還是朝不保夕。貧苦的家境使他從小就養成了勤儉的習慣，以至他參加革命後成為國家領導人，仍保持著勤儉的良好作風。
陶鑄在廣州工作期間，正值國家經濟暫時困難時期，他每天工作非常辛苦，經常工作到淩晨兩三點。可在生活上，始終保持共產黨員的本色，堅持以身作則，節衣縮食，不要特殊照顧。他規定家裏吃的肉、油、米，“要和老百姓一樣”。有一次廚師找到點瘦肉，炒了一碟他愛吃的瘦肉辣椒端給他。他發了火，批評廚師說：“這個月我的豬肉已經吃完了，我說不多吃就不多吃。”說完堅決要把這碟菜退回去。這使廚師很為難。後來這碟辣椒炒肉隻得端給工作人員吃了。事後，廚師說：“首長真厲害，以後再也不能這樣幹了。”那期間，他始終堅持不搞特殊化，還常對家人說：“有碟辣椒，再來碗青菜就夠了。吃東西以填飽肚子為原則，這也不吃，那也不吃，還怎麼接近群眾呢？”他對穿著也從不講究，他的內衣褲總是補丁疊補丁。但他始終忘不了群眾的疾苦，把家裏的衣物寄給災區群眾，他常說：“我們身上穿暖了，不能忘記老百姓生活還很苦。”
陶鑄處處嚴格要求自己，力求勤儉節約，做到一絲不苟，模範地遵守黨的紀律。他經常告誡周圍的人：“我們都是人民的兒子，應該全心全意為人民謀利益，不能有絲毫的特殊。”他回家鄉祁陽，總是穿著粗布衣，吃大鍋飯、蔬菜、豆腐乳，絕不準許為他搞豐盛的飲食。1951年那一次，縣軍管會曾為他辦了一桌“接風”酒席，他連門都不進，多次催請也不去，卻到祁陽一中和師生們一起用普通餐，叫人把辦酒席的物品賣掉了。他1961年來祁陽，更是嚴令不準招待，不吃雞，不吃肉，不吃魚，隻吃素菜，發現超過規定的飯菜，立即令人撤去，態度十分堅決。他無論到哪裏一貫廉潔奉公，生活簡樸，堅決抵製那種慷公家之慨，用來請客送禮的壞風氣。1958年，陶鑄帶領一些幹部到粵東檢查生產，有的縣大擺宴席，表示歡迎，他見到這種場麵非常氣憤，匆匆吃碗飯就退席了。從此以後，他每次到各地調查、訪問，總是事先“約法三章”：不準迎送，不準請客，不準送禮。說了還不夠，還要隨身工作人員督促檢查，具體落實。這個“約法三章”，後來實際上成為一條嚴肅的戒律，誰也不敢在他麵前搞什麼特殊照顧了。
陶鑄在生活上艱苦樸素，在工作上艱苦深入，有時簡直到了不顧自己身體健康的地步。整風整社時，他到番禺縣大石公社住了一段時間，堅持同其他幹部過一樣的艱苦生活，每餐吃的都是見不到多少油花的蘿卜、白菜，別的同誌有時還可以加一點魚、肉，他堅持不要，拿出自備的辣椒、腐乳佐餐。長期的艱苦和勞累，使得他經常吐血，體質比較虛弱，同誌們見了都為他的健康擔心。都說：“他寬闊的心胸中，確實隻有人民，唯獨沒有他自己！”
陶鑄在生活上嚴格要求自己，對他的親屬也同樣如此。他母親長期住在農村，陶鑄每月給寄十五元生活費。有個時期老人埋怨錢給少了，不夠用。陶鑄一再懇切地對母親說，目前群眾生活水平還不高，我們幹部家屬生活上不能脫離群眾，人民給的錢，要講究節約，直講到母親思想完全通了為止。他還經常教育他的至親要安心農業生產第一線，積極參加生產勞動，勤儉節約過日子，在任何時候都要防止特殊化。那年石洞源修水庫，包括陶鑄的母親、堂弟在內的一些社員需要搬遷住房，陶鑄約法三章，教育親屬搬遷住房要先人後己，厲行節約。要做到：一不準比別家早搬一天；二不準所蓋新房比別家高一尺寬一寸；三不準建房材料比別家好一分。後來這些親屬雖然都是最後搬遷的，但其中堂弟一戶蓋成的新房略為高大些，陶鑄嚴厲地批評了堂弟，要他跟別的社員調換。陶鑄這種胸懷寬廣，心底無私的高貴品德，贏得了周圍群眾的欽佩。大家都說，陶鑄愛親人，但他更愛廣大勞動人民，他決不因為自己職務高而給予親屬半點特殊的照顧。
陶鑄家住的房子是一所年久失修的舊房，一下雨就會漏水，陰天進去非開燈不可。在國家經濟困難的那幾年，機關幾次提議要翻修，他都不同意，直到1965年，國民經濟得到恢複和發展，他才在機關兩次三番的要求下同意翻修，並具體規定了翻修的費用。那時他和夫人恰巧都不在家，機關翻修時把標準提高了。他看到後，很不高興，說是修得超過了他定下的標準，又說：“既然是給我個人修的，我就該自己出錢。”於是要警衛員小曾送去了他積存的幾乎全部工資。機關覺得公家維修房子，私人出錢，這既無先例，也不符合收支規定，表示為難。他說：“那就算是我捐獻給公家的吧。”硬是不讓退回。這件事在當時震動很大，許多同誌都深受教育。然而翻修好的房子，他連一天也沒住上，就奉調去北京了。
陶鑄把“先天下之憂而憂，後天下之樂而樂”作為自己的座右銘，他一生勤儉為民，心底無私，廉潔奉公，不愧是人們學習的好榜樣。