1994年11月17日，勞動部發布了《農村勞動力跨省流動就業管理暫行規定》，各地將規定具體化，規定了對跨省流動勞動力就業(其實質是進城農民勞動力就業)的若幹限製，規定隻有在本地勞動力無法滿足需求，並符合下列條件之一的，用人單位才可跨省招用農村勞動力：(1)經勞動就業服務機構核準，確屬本地勞動力普遍短缺，需跨省招用人員；(2)用人單位需招收人員的行業、工種，屬於勞動就業服務機構核準的，在本地招不足所需人員的行業和工種；(3)不屬於上述情況，但用人單位在規定的範圍和期限內，無法招到或招足所需人員。種種規定的基本出發點是限製使用外地農村工，其核心是要優先滿足當地勞動力就業需求。
1995年7月1日，經國務院批準的《小城鎮戶籍管理製度改革試點方案》正式出台。1997年7月，國務院批轉公安部《關於小城鎮戶籍管理製度改革試點方案》，明確“試點鎮”具備條件的農村人口辦理城鎮常住戶口。但改革的範圍限製在已開展戶籍管理製度改革的縣(縣級市)城區的建成區和建製鎮的建成區，並由省、自治區、直轄市人民政府選擇少量經濟和社會發展水平較高、財政有盈餘、城鎮基礎設施建設較好，在當地具有一定代表性的小城鎮，先期進行兩年的戶籍管理製度改革試點，然後分散、分批推開。
1997年6月10日，國務院批轉公安部《關於完善農村戶籍管理製度的意見》，要求統一城鄉戶籍登記製度，理順農村戶籍管理體製，實施嚴密管理並改進管理手段，逐步實現農村戶籍管理的製度化、規範化和現代化。
1998年8月，國務院下發文件，批轉了公安部《關於解決當前戶口管理工作中幾個突出問題的意見》，對當前戶口管理做出了四項改革：施行嬰兒落戶隨父隨母自願的政策；放寬夫妻分居問題的戶口政策；男性超過60周歲身邊無子女的公民，可在其子女所在的城市落戶；在城市投資、舉辦實業、購買商品房的公民及其共同居住的直係親屬，凡在城市有合法固定的住所、合法穩定的職業或者生活來源，已居住一定年限並符合當地政府有關規定的，可準予在該城市落戶。同時，允許因“農嫁城”而辦理市區戶口，條件是：結婚滿15周年以上；配偶年齡滿40周歲以上；配偶係市區內久居(連續20年以上)居民；隨配偶在市區實際生活10年以上，在市區有居住條件。
1998年10月，十五屆三中全會通過《中共中央關於農業和農村工作若幹重大問題的決定》，提出了“發展小城鎮是帶動農村經濟和社會發展的一個大戰略”。於是加快發展小城鎮，小城鎮戶籍製度改革便成為各地的主流。2000年6月13日，中共中央、國務院下發了《關於促進小城鎮健康發展的若幹意見》，規定“從2000年起，凡在縣級市區、縣人民政府駐地鎮及縣以下小城鎮有合法固定住所、固定職業或生活來源的農民，均可根據本人意願轉為城鎮戶口，並在子女入學、參軍、就業等方麵享受與城鎮居民同等待遇，不得實行歧視性政策”。
近年來，隨著公民權利意識和法律意識的提高，關於二元戶籍製度的爭議越來越激烈，對其造成的社會危害的認識也越來越深刻。而且，隨著農村勞動生產力的提高和生產方式的轉變，累積在農村的剩餘勞動力也達到了空前的規模，農民工大規模進城打工、經商，事實遷徙己不容忽視。即使在城市之間，也出現了越來越多的居民向大中城市聚集的現象。像上海、北京、深圳、廣州這類的經濟更為發達的城市，暫住或流動人口已遠超常住人口，原有的戶籍製度已經很難適應實際需要，戶籍製度改革迫在眉睫。2001年我國著名法學家徐顯明先生提出，“重新賦予公民遷徙自由權已是市場經濟體製要求之必然”；2002年3月，廣東籍人大代表陳麗妮向十屆人大提出《盡快將“遷徙自由權”納入憲法修正案》的議案；2004年11月北京理工大學教授胡星鬥向全國人大提交了《對二元戶口體製及城鄉二元製度進行違憲審查的建議書》等等。
與此同時，全國各地許多地方都已經開始著手改革原有的戶籍管理辦法。據新華社北京2003年4月l日電，北京市日前決定：從4月l日開始，京郊農民今年的新生子女根據自願可以登記為城鎮戶口，有北京市農業戶口的高等職業教育學校、中等專業學校、技工學校及職業高中在校生，可自願轉為非農業戶口。2003年7月，河北省人民政府批轉《關於我省戶籍管理製度改革的意見》的通知，同意河北公安廳的意見，在全省打破城鄉分割的農業、非農業二元戶口管理結構，取消農業戶口、非農業戶口、自理口糧戶口及其他類型的戶口性質劃分，取消“農轉非”戶口審批和計劃指標管理。在統計口徑上，以居民實際居住地和所從事的職業，將人口劃分為城鎮人口和農村人口，並統一登記為居民常住戶口。2004年8月，湖北省宣布推行戶籍製度改革，主要措施包括取消農業戶口、非農業戶口性質和地方城鎮戶口、農場商品糧戶口等各種戶口類型。湖北省還開始實行戶口遷移條件準入製度，除武漢市在2006年前逐步改革到位外，其它市取消進城人口計劃指標。