我國高等教育自學考試製度醞釀於1978年，當年，教育部頒布《關於業餘高等教育的考核辦法》，提出“建立定期的考核製度，自學的人們可以到國家指定的高等學校或其他單位參加考核，證明已經達到國家規定的大學畢業水平的，由高等學校發給證書，各單位使用時應按同等畢業生對待，用其所學”。1979年，教育部出台《自學考核辦法》，提出自學考試製度的概念與實施辦法，意味著高等教育自學考試製度的萌芽。1981年，國務院批轉教育部《關於〈高等教育自學考試試行辦法〉的報告》，高等教育自學考試製度正式建立。《高等教育自學考試試行辦法》對考試對象、報考手續、考試辦法、組織領導、畢業生的使用和待遇等做出了原則性規定，並決定在北京、上海、天津試行。
1983年，國務院批準成立全國高等教育自學考試指導委員會，規定了全國高等教育自學考試指導委員會任務、人員組成等。同時，全國高等教育自學考試指導委員會全體會議通過了《關於設立專業委員會的意見》和《關於製定專業考試計劃的意見》。此外，1986年，國家教委轉發全國考委《關於開考本科階段自學考試有關問題的幾點意見》。高等教育自學考試製度的建設，進一步滿足了當時人們的學習需求，1981年高等教育自學考試報考人數為4 000人，而到了1986年，全國高等教育自學考試報考者共計300萬人。在高等教育自學考試相關政策製度的推動下，相關實踐逐步推進，辦學體係基本形成，到1986年全國30個省、直轄市、自治區先後建立了省一級的高等教育自學考試委員會。
為進一步推動高等教育自學考試發展，1988年，國務院頒發《高等教育自學考試暫行條例》，以國家最高行政立法的形式確立了高等教育自學考試製度，對高等教育自學考試的性質、任務、考試機構、開考專業、考試辦法、考籍管理、社會助學、畢業生使用與待遇、考試經費、獎懲等都做出了明確的規定。1989年，國家教委發出《關於在軍隊舉辦自學考試的批複》，同意成立中國人民解放軍自學考試委員會，負責全軍的高等和中等教育自學考試工作。1995年，國家教委印發《關於高等教育自學考試社會助學工作的意見》，推動自學考試社會助學工作的健康發展。1999年1月1日，《中華人民共和國高等教育法》開始施行，其中第二十一條明確規定：“國家實行高等教育自學考試製度，經考試合格的，發給相應的學曆證書或者其他學業證書”，以法律的形式確立了高等教育自學考試製度，以及它在我國高等教育基本製度中的重要地位。
進入21世紀，我國經濟社會發展環境發生了巨大變化，高等教育也在快速發展，2002年毛入學率就達到了15%。隨著社會轉型發展、經濟體製改革加快，以及普通高校擴招和各類高等學曆繼續教育的發展，高等教育自學考試麵臨全新的發展環境，報考人數開始下滑，專業結構等與社會發展需求不相適應的矛盾漸顯。1999年，中共中央、國務院《關於深化教育改革，全麵推進素質教育的決定》提出“完善自學考試製度，形成社會化、開放式的教育網絡，為適應多層次、多形式的教育需求開辟更為廣闊的途徑，逐漸完善終身學習體係”。2003年，教育部印發《關於進一步加強高等教育自學考試工作若幹問題的意見》，提出“高等教育自學考試是我國高等教育的重要組成部分，在建立終身教育體係的進程中處於重要的地位。在滿足社會對接受高等教育的巨大需求中，自學考試仍具有不可替代的作用”。此外，在國家教育事業發展“十一五”“十二五”“十三五”規劃綱要中，都強調了自學考試製度是終身教育體係的一個重要組成部分。新時期，在成人高等教育和網絡教育辦學規模不斷擴張、教學管理有待進一步規範的環境下，高等教育自學考試以嚴格的規範管理、堅持教考分離，人才培養質量得到保證，受到社會和用人單位的認可。
高等教育自學考試製度是我國教育製度的重要改革與創新，是我國高等教育的重要組成部分，在改革發展中，它逐步成為我國高等教育的開放製度。高等教育自學考試製度的改革發展，豐富了學習選擇渠道，滿足了人們對靈活學習的客觀要求，推動了高等教育的大眾化。