1984年1月1日，《中共中央關於一九八四年農村工作的通知》決定“1984年，各省、自治區、直轄市可選若幹集鎮進行試點，允許務工、經商、辦服務業的農民自理口糧到集鎮落戶”。這是我國小城鎮戶籍製度改革的先聲。
1984年10月13日，國務院發出141號文件《關於農民進入集鎮落戶問題的通知》規定，凡申請到集鎮(指縣以下集鎮，不含城鎮)務工、經商、辦服務業的農民和家屬，在城鎮有固定住所，有經營能力，或在鄉鎮企事業單位長期務工的，公安部門應準予落常住戶口，及時辦理入戶手續，發給《自理口糧戶口薄》，統計為“非農業人口”，糧食部門要做好加價糧油供應工作，可發給《加價糧油供應證》。工商部門要做好工商登記管理工作。地方政府要為他們建房、買房、租房提供方便，依法保護正當的經營活動。把他們納入街道居民小組進行管理，除口糧自理外，其它同集鎮居民一樣享有同等權利，履行同等義務。這是我國戶籍製度改革的第一個規範性的政策規定，它的曆史功績在於打破了幾十年來鐵板一塊的二元戶籍製度的一個缺口。自理口糧戶口的實施是我國戶籍製度改革的一項重大突破。據統計，從1984年至1986年底，在不到3年的時間裏，全國辦理口糧達1633828戶，總計4542988人。1984～1990年，全國共計有500萬農民落入城鎮自理口糧戶口。
1985年7月13日，公安部頒布了《關於城鎮暫住人口管理的暫行規定》，決定對流動人口實行《暫住證》、《寄住證》和旅客住宿登記證相結合的登記管理辦法。1985年9月6日。全國人大常委會頒布實施《中華人民共和國居民身份證條例》，規定凡16歲以上的中華人民共和國公民，均要申領居民身份證。居民身份證製度的實施，加強了對流動人口的管理，嚴密了戶口登記管理製度，也為人口管理的現代化打下了良好的基礎。但是，居民身份證針對的是“居民”而非“公民”，與暫住證並存，說明兩證具有地域性，不具備普適性。
1989年10月，在治理整頓的大環境下，國家又強調嚴格戶籍製度管理，國務院發出了《關於嚴格控製“農轉非”過快增長的通知》，要求把“農轉非”納入國民經濟與社會發展計劃，對“農轉非”實行計劃指標與政策控製相結合的辦法。具體做法是：“農轉非”政策由國家計委、公安部、商業部審核，國務院審批，戶口遷移的具體審批權集中在地市級。從此計劃部門介入了戶籍製度管理。1990年國務院辦公廳轉發國家計委等部門關於《“農轉非”政策管理工作分工意見報告的通知》規定由中央出台“農轉非”政策。這一時期戶口管理的特點是對“農轉非”采取政策和指標的辦法，大量壓縮了“農轉非”數量。
1992年，全麵取消糧食的計劃供應，商品糧供應製度解體，城市非正規部門的勞動就業製度改革，農村家庭聯產承包責任製實行，解除了土地對農民的行政性束縛。1992年8月，在鄧小平南巡講話精神的鼓舞下，公安部擬就了《關於實行當地有效城鎮居民戶口製度的通知》，征求各部門和地方政府意見，開始實行“當地有效城鎮戶口製度”。同年10月開始，廣東、浙江、山東、山西、河南等10多個省先後以省政府名義下發了實行“當地有效城鎮戶口”的通知。由於“當地有效城鎮戶口”的戶口薄印鑒為藍色，故也稱作“藍印戶口”。這是我國戶籍製度改革的一項過渡性的具體措施。
1992年全國各地掀起了賣戶口熱潮，範圍主要集中在小城鎮，農民每人可以以4000元到數萬元不等的價格購買小城鎮戶口。據公安、金融等部門估算，1992年各地賣出戶口所得金額超過了100億元，有可能達到200億元之巨。這一方麵充分反映了被畫地為牢控製幾十年的廣大農民對城鎮美好生活的渴望和追求，另一方麵也使戶口趨於商品化、貨幣化。1992年5月4日經國務院辦公廳同意，以公安部名義下發了《關於堅決製止公開出賣非農業戶口的錯誤做法的緊急通知》，對各地賣戶口行為進行製止。盡管如此，然而各地並未停止將戶口商品化、貨幣化的行為，最突出的是各地設置購房、投資、學曆等不同的限製性條件。
1993年9月，根據中央關於重視小城鎮建設的精神，國務院戶籍製度改革開始由全麵改革轉向改革小城鎮的戶籍製度為重點，著力研究關於小城鎮戶籍製度改革的方案。