1968年2月，滕飛應征參軍，乘火車離開北京前夕，滕代遠在旁熟練地指導兒子打好背包，並送給他一本在當時很難得到的《毛澤東選集》（合訂本）和《雷鋒日記》。早在1963年，滕代遠就帶滕飛參觀過雷鋒事跡的展覽，他對兒子的要求簡單明了：當雷鋒式的士兵，吃苦在前，不講享受。滕飛坐了幾天火車來到部隊駐地——這裏一片荒蕪，看不到綠樹青草，隻有茫茫戈壁上的駱駝刺；沒有溫暖潮濕的氣候，隻有漫天遍野的刺骨寒風在耳邊呼嘯。滕飛的心也像這寒風一樣涼了大半截，甚至想，在這個地方打開我軍旅生涯的首頁，是不是太殘酷了點。滕代遠從滕飛的家信中看出了兒子的怯懦，在回信中說：“金張掖，銀酒泉——這裏是你報效祖國的好戰場。”媵飛後來才知道，1937年5月，父親和陳雲受黨中央通過共產國際的委派，帶領工作組在這個地方（星星峽、祁連山脈）迎接了突圍出來的由程世才、李先念率領的紅四方麵軍西路軍部隊。這時，媵飛才想到父輩對自己的教育用心良苦。
1970年8月10日，滕飛在一次執行任務中受重傷，昏迷不醒。部隊馬上通知滕家前去探望。滕代遠委托秘書前往看望兒子，並囑托秘書：“你到部隊去，請向領導轉達我們的意見，如果還有希望，請盡力搶救，因為孩子還年輕，還能為黨和國家服務幾十年。萬一搶教失敗，我們不提出任何要求，一切按照部隊規定辦。”秘書趕到部隊，看到昏迷不醒的滕飛還沒有完全脫離生命危險，這時滕代遠接到了去廬山參加黨的九屆二中全會的通知，他以黨的工作為重，要求秘書迅速返回，與他一起飛往廬山參加全會。後在第二軍醫大學長海醫院的奮力搶救下，滕飛終於蘇醒，擺脫了死神的威脅，重新戰鬥在自己熟悉的工作崗位上。
滕飛回憶說：“1971年，我被提拔為軍官，父親得知這一消息後，給我來信，囑咐我要永遠保持普通一兵的本色……”
滕代遠在信中用自己在戰爭年代的親身經曆教育滕飛：越艱苦越離不開官兵一致的光榮傳統。
當年滕飛希望自己在軍事上有所發展，對政治工作和後勤工作沒有多大興趣。這時，滕代遠耐心地開導他，要他好好向雷鋒同誌學習——“革命戰士是塊磚，哪裏需要哪裏搬”。因為工作需要，滕飛的工作換了好幾個地方，但是不管到哪裏，他都牢記父親的教誨，工作更加努力，先後被國防科工委黨委和海軍評為“雷鋒式的好幹部”。滕飛從部隊轉業後，到廣東粵海石化儲運公司任職，並光榮地當選為第五屆全國人大代表。在滕久昕的記憶中，父親隻流過一次淚。1968年，滕代遠送17歲的小兒子媵久昕赴內蒙古牧區插隊。此前，學校發來有關插隊的申請表，滕代遠支持一直在自己身邊長大的小兒子去內蒙古牧區，並鄭重地在申請表上寫下“完全同意，堅決支持”。滕代遠將毫無獨立生活經曆的滕久昕送上火車，列車開動的瞬間，永定門車站內近800位學生和家長抽泣聲一片，甚至蓋住了火車的鳴笛。但滕代遠卻一句話也沒有說，默默地揮著手。後來，滕久昕聽母親講，父親回到家中，拉著母親的手說：“孩子才17歲……”一句話沒說完，已是鼻翼翕動，淚盈於睫。
滕久昕在接受筆者采訪時講：“父親當時是全國政協副主席，此前是鐵道部長，我母親是北京鐵路局黨委副書記，可是他們送我的時候是以普通老百姓身份到車站的，沒有跟任何鐵路係統領導和部門打招呼，是擠在人群裏向我揮手的……車啟動了，老父親流淚了。”講到這裏，滕久昕淚水縱橫……
滕久昕在內蒙古期間，滕代遠夫婦經常給他寄信，勉勵他在草原上紮根，好好經受鍛煉。1970年，滕久昕光榮參軍，成為一名鐵道兵戰士。
一次，因為工作需要，部隊首長讓滕久昕去北京密雲出差。闊別多時，一些留京的同學聽說滕久昕回來了，便請他吃飯敘舊，滕久昕也回請了他們——吃飯的開銷比較大，還借了出差公款60元，這在當時來說，相當於部隊連級軍官一個月的工資。滕代遠知道後非常生氣，提筆寫信批評他：“幹都子弟應養成艱苦樸素的作風、吃苦耐勞的習慣。這不是一般生活作風問題，而是思想覺悟，甚至是政治水平高低的問題。
接到信後，滕久昕的思想一時轉不過彎來。於是，滕代遠寫信告訴部隊的領導，讓大家一起幫助滕久昕認識講排場、擺闊氣的問題，並寫信給其他的兒子，一同幫助滕久昕提高認識。其中，在給滕久明的信中寫道：“小利（滕久昕小名）花好多錢，大少爺脾氣厲害，你要多勸說他一下。”後來，滕久昕專門寫了一份思想檢查寄給父母。低調為人
1950年9月，未曾謀麵的滕久翔聽說生父滕代遠在北京當上了鐵道部部長，就千裏迢迢從湖南來到北京探望。幾經周折，滕久翔終於見到日夜思念的父親。滕久翔是滕代遠離開家鄉考入常德二師的前一年出生的。參加革命後，滕代遠一直沒有機會回老家看望親人，如今見到闊別20餘年、已經長大成人的兒子，心裏自然是分外高興，在繁忙的工作之餘擠出時間陪伴滕久翔遊覽了北海、故宮、頤和園等名勝古跡。