他指出：“廟隻有那麼大，菩薩隻能要那麼多，老的不退出來，新的進不去，這是很簡單的道理。因此，老同誌要有意識地退讓。要從大處著眼，小道理要服從大道理，不要一涉及到自己的具體問題就不通了。我們將來要建立退休製度。”1979年11月2日，鄧小平在中央黨政軍機關副部級以上幹部會議的講話中詳細地闡述了建立幹部退休製度的必要性。他語重心長地對老同誌說：“前幾年，我提出搞顧問製度，但並沒有完全行通，許多人不願意當顧問。現在看來，要真正解決問題不能隻靠顧問製度，重要的是要建立退休製度。這個問題，同我們每個人都有密切關係，請同誌們好好地考慮一下。不建立這個製度，我們的機構臃腫、人浮於事的狀況，以及青年人上不來的問題，都無法解決。有了退休製度，對各個部門、各級職務的幹部的退休年齡有了明白規定，就可以使人人知道自己到哪一年退休。”他強調指出，實行退休製度，“這是關係到我們黨和國家興旺發達、朝氣蓬勃的一個大問題。”
1980年2月，在鄧小平的倡議下，黨的十一屆五中全會明確提出廢除實際存在的領導職務終身製。同年8月18日，鄧小平在中共中央政治局擴大會議上的講話《黨和國家領導製度的改革》中明確指出，我們黨和國家的領導體製和具體製度中存在著“官僚主義現象，權力過分集中的現象，家長製現象，幹部領導職務終身製現象和形形色色的特權現象。”因此要進行改革，不僅要建立退休製度，而且要建立任期製，要健全幹部的選舉、招考、任免、考核、彈劾、輪換製度。他指出：“幹部領導職務終身製現象的形成，同封建主義的影響有一定關係，同我們黨一直沒有妥善的退休解職辦法也有關係。革命戰爭時期大家年紀都還輕，五十年代正值年富力強，不存在退休問題，但是後來沒有及時解決，是一個失策。應當承認，在當時的具體曆史條件下，這個問題也無法解決或無法完全解決。五中全會討論的黨章草案，提出廢除幹部領導職務終身製，現在看來，還需要進一步修改、補充。關鍵是要健全幹部的選舉、招考、任免、考核、彈劾、輪換製度，對各級各類領導幹部（包括選舉產生、委任和聘用的）職務的任期，以及離休、退休，要按照不同情況，作出適當的、明確的規定。任何領導幹部的任職都不能是無限期的。”
根據鄧小平的提議，1982年初，中共中央作出《關於建立幹部退休製度的決定》，規定：擔任中央、國家機關部長級和省級的主要負責同誌，正職年齡不超過65歲，副職年齡不超過60歲，司局級的幹部，一般不超過60歲。同年12月，五屆全國人大五次會議製定的《中華人民共和國憲法》明確規定國家領導人連選連任不得超過兩屆，從而以國家根本大法的形式廢除了長期存在的領導職務的終身製，建立起領導職務任期製。實行領導職務任期製，一方麵，任期屆滿，領導人必須更換，有利於推選優秀人才擔任領導職務，使領導集團充滿活力；另一方麵，領導人任期未滿，如無嚴重失誤，不得隨意撤換，有利於保持黨的政策的連續性、穩定性。特別是實行任期製，便於形成幹部能上能下、能進能出、能官能民的好風氣，有助於幹部隊伍正常的新陳代謝和及時向領導層輸送有真才實學而又年富力強的新鮮血液。
二、建立顧問委員會，實現從終身製走向退休製的平穩過渡
進入改革開放新時期以後，鑒於我們黨的各級領導幹部普遍存在年齡老化的實際情況，鄧小平同誌創造性地提出了建立顧問委員會製度的構想。通過設立顧問委員會這種製度性安排，使那些年事已高，但身體精力尚好的老幹部從第一線領導崗位上退下來，進入各級顧問委員會而退居二線，作為顧問，幫助、扶持年輕幹部，協助、指導他們的工作。實踐證明，設置顧問委員會對廢除黨和國家機關實際上存在的領導職務終身製，順利實現新老幹部的合作和交替起了很大作用，它為發揮老幹部的重要作用和幹部退休製度的最終建立，加快培養選拔優秀的中青年幹部和使幹部隊伍年輕化這二者的和諧統一，找到了一個最為妥善的方案。
1982年9月，黨的第十二次全國代表大會決定建立中央顧問委員會，選舉產生了由172名委員組成的中央顧問委員會，並選舉鄧小平為中顧委主任，一大批原先在黨中央、國務院、軍隊係統和各省、市、自治區黨委以及政府中擔任主要領導職務，並在黨內外享有崇高威望的老幹部率先垂範地退出領導崗位，進人中央顧問委員會，開始了新老幹部交替與合作的進程。
十二大通過的《中國共產黨黨章》，對中央顧問委員會的性質、任務，成員的組成，包括選舉產生的程序、任期，均作了明確的規定，這樣中央顧問委員會的各項工作就有了依據。
1982年9月13日，在剛剛建立的中央顧問委員會第一次全體會議上，鄧小平就中顧委的性質、任務和曆史使命等作了重要講話。他說：“中央顧問委員會是個新東西，是根據中國共產黨的實際情況建立的，是解決黨的中央領導機構新老交替的一種組織形式。目的是使中央委員會年輕化，同時讓一些老同誌在退出第一線之後繼續發揮一定的作用。”他特別指出：“從某種意義上說，顧問委員會是一種過渡性質的組織形式，我們的國家也好，黨也好，最根本的應該是建立退休製度。”他設想“花兩個五年的時間”，也就是兩屆黨代會，通過這種過渡形式，穩妥而順當地解決好新老交替的問題。因此，“可以設想，再經過十年，最多不要超過十五年，取消這個顧問委員會。”“顧問委員會今天剛成立，就宣布準備將來取消，這就明確了這個組織的過渡性。”