粉碎“四人幫”後，從中央到地方，忙於清理與“四人幫”有牽連的人和事。一時無暇召開全國會議落實毛主席“2？12”批示。而且對如何解決知識青年問題，上上下下都需要有個重新認識的過程。1977年4月15日，國務院派出以許法同誌為首的工作組進駐國務院知青辦，清理與“四人幫”有牽連的人和事，並領導知青辦的工作。4月21日，國務院知青辦正式通知各地，推遲召開全國知青工作會議。清理工作一直延續到當年11月。
為了統一認識，籌備全國知青工作會議，經黨中央、國務院批準，1977年12月12日到1978年1月13日，國務院知青辦召開了省、市、自治區知青辦負責人座談會，會議由國家計委副主任、國務院知青領導小組副組長顧秀蓮主持，采取隻出題目、不回答問題的方式，主要聽取地方的意見。黨和國家領導人華國鋒、葉劍英、鄧小平、李先念、陳永貴等接見了與會代表，李先念、陳永貴等還親自聽取了代表們的意見。
從座談會反映的情況看，當時從領導思想到社會輿論，對知識青年問題的看法很難分析清楚。由於這是個非常敏感的問題，一些領導人都不敢斷然表態，連直接分管這項工作的副總理陳永貴都說：“知青工作很複雜，我們幾個副總理一提起這件事就感到頭痛。”副總理紀登奎也說：“知青工作搞得好，是培養一支生力軍，搞不好是不安定因素。”
座談會反映的問題集中在以下幾個問題上：
（一）還要不要堅持知識青年上山下鄉的方向。社會上傳說紛紜，有些下鄉青年認為自己是“四人幫”的犧牲品，“打倒‘四人幫’，回城有希望”。有的說：“過去表示紮根農村是上了‘四人幫’的當，今後還是要爭取回城”。一些有影響的先進青年，也開始懷疑自己的路子是否走對了。城裏鄉下風傳：“現在不宣傳下鄉了，典型倒了，政策要變了，知青辦要撤了，上山下鄉快收場了”。
（二）招工政策引起思想波動。有的地方傳說今後不從下鄉青年中招工了，有的下鄉青年聽到這種傳聞竟蒙頭大哭，認為聽黨的話、上山下鄉吃虧了。有的青年點把飯鍋門窗砸了，要找社、隊幹部算賬，有的回城集體上訪。
（三）在清查運動中，有些地方政策界限不清，打擊麵過寬。有的地方一提下鄉青年，就認為都是“長角長刺”的，一說整頓青年點，就想整青年。內蒙古自治區有個旗把擔任基層幹部的100多名下鄉青年全部撤職；有的還把他們的行李給扔了，把炕扒了。
（四）管理知青工作的幹部普遍感到壓力大，心裏急。他們感到“吃不透上麵精神，說不服下麵群眾，受夾板氣”。有個地區9個縣、市知青辦主任都申請調動，要求幹別的工作。
大多數同誌認為對知識青年上山下鄉應曆史地現實地看問題，簡單地肯定和簡單地否定都不適宜。毛主席曆來強調做計劃，辦事情，要堅持統籌兼顧、適當安排的方針。城市青年，或者進學校，或者到農村去，或者到工廠去，或者到邊疆去，總要有個安排。按照這個方針辦事，正確處理好招工、招生、下鄉、留城等問題，可以把工作做活，路子越來越寬。“四人幫”別有用心，搞絕對化，把按國家計劃招工，說成是“拔根複辟”，把中學生直接上大學說成是“複辟回潮”，就是要破壞統籌兼顧的方針，打擊陷害堅持正確方針的鄧小平等老同誌，實現其篡黨奪權的野心。
座談會確定，由國務院知青領導小組會同中組部、中宣部、最高人民法院、國家計委和財政、教育、農林、商業、公安、衛生、勞動、出版、物資等部（局）、總政，以及工會、共青團、婦聯組織力量，對存在的問題，分別由有關部門進行調查研究，提出解決的意見。同時建議各省、市、自治區黨委參照中共中央、國務院的辦法組織力量進行調查研究，總結經驗，對所存在的問題提出解決意見，報送國務院。會議對於需要調查研究的問題列了11條：
（一）關於如何肅清“四人幫”的流毒問題；
（二）關於城鎮中學畢業生的分配方向問題；
（三）關於安置下鄉知識青年的合理布局問題；
（四）關於下鄉青年的安置形式問題；
（五）關於推廣株洲市廠社掛鉤、集體安置下鄉知識青年的經驗問題；
（六）關於青年點的建設問題；
（七）關於對下鄉青年的培養教育問題；
（八）關於如何發揮下鄉知識青年作用問題；
（九）關於統籌解決下鄉青年實際困難問題；
（十）關於整頓安置經費、物資管理問題。
（十一）關於加強對知青工作的領導問題。
1978年3月27至28日，由有關部門及地方政府抽調30多人集中學習，然後組成調查組分頭下去調查。5月上旬回京彙報。
順應民心，上山下鄉亮紅燈
1977年8月，中國共產黨第十一次全國代表大會上宣告了“文化大革命”的正式結束。但是由於曆史條件的限製和“兩個凡是”錯誤的影響，沒有能夠及時糾正“文化大革命”的錯誤理論、政策和口號，嚴重阻礙了黨的路線及時地轉到正確軌道上來。
在知識青年問題上，1978年以前盡管經過幾次大的調查研究，但從黨中央、國務院的決策來看，一直沒有突破禁區。1978年3月28日，鄧小平同誌在同胡喬木、鄧力群談話時指出：要研究如何使城鎮容納更多勞動力的問題。現在是搞上山下鄉，這種辦法不是長期辦法，農民不歡迎。四川1億人，平均1人不到1畝地，城市人下去實際上形成同農民搶飯吃。我們的第一步應做到城市青年不下鄉。然後再解決從農村吸收人的問題。歸納起來，就是要開辟新的經濟領域，做到容納更多的勞動力，其他領域也要這麼做。小平同誌的這一想法無疑是對知識青年問題的一個大膽突破，體現了政治家的偉大氣魄。
正是基於小平同誌把上山下鄉納入城鎮就業軌道這一設想，1978年4月13日，中共中央批準了農林部《關於調整國務院知識青年上山下鄉領導小組和辦公室管理體製的報告》。決定調整領導小組成員，並將國務院知青辦由農林部代管改由國家勞動總局黨組領導。4月30日，經黨中央批準，中組部任命許世平（曾任團中央書記、建設部副部長等職）為國務院知青辦主任，兼國家勞動總局副總局長、黨組副書記。許法、王廣義、沈寶英為知青辦副主任。
1978年7月3日，胡耀邦同誌在同國務院知青辦主任許世平談話時指出，最早提出插隊的是鄧小平同誌，是在60年代初那樣困難的曆史條件下提出來的。現在這條路走不通了。要逐漸減少下鄉，以至做到不下鄉，這是一個正確的方針，是可能做到的，你們的責任是講明這種可能性。知青安置去向，要主要著眼於城市。建議你們先抓京、津、滬三大城市。但仍然要下去一些人，下去要改進方法，少搞分散插隊，多搞集體安置。
7月19日，華國鋒在同胡耀邦的一次談話中，也表示同意小平意見，能不下鄉的可以不搞下鄉，每年花20個億，農民還不歡迎，認為是爭飯吃。城市要想辦法擴大就業門路。
根據黨和國家領導人的思考和意見，國務院知青辦於1978年7月20日向黨中央、國務院呈送了《關於城鎮知識青年上山下鄉方針問題的請示報告》。這個報告實際上是為即將召開的全國知青工作會議確立基調。