1977年，謝光選被任命為七機部一院副院長，並出任“長征”3號運載火箭總設計師。在此之前，他參與組織研製發射“長征”2號運載火箭的工作，加強管理，加強地麵試驗，杜絕設計上的缺陷，用冗餘技術提高火箭的可靠性，在發射場檢測時更換了可能有缺陷的儀器設備，解決了技術和管理上的問題，保證了“長征”2號及其改進的“長征”2號丙運載火箭的成功發射。在此基礎上，謝光選帶領科技人員向運載技術的製高點攀登，研製先進的液氫液氧發動機，大幅度地提高火箭的推力，向著發射高軌道衛星的目標努力。他用彈性理論描述了火箭的縱向固有彈性振動，用波動方程和二相流描述了推進劑輸送管路的固有振動頻率，采取措施使兩個固有振動不產生共振，抑製了全箭耦合振動的發生，改善了低頻振動的環境。同時，“長征”3號火箭最關鍵的是低溫技術，因為氫、氧都是易燃易爆物，其中液氫的沸點低達零下253攝氏度，這給生產、儲存、運輸及使用都帶來一係列技術問題。謝光選付出大量心血對36個重點問題組織協作攻關，最後解決了與低溫技術有關的難題。1984年1月29日，第一枚“長征”3號運載火箭發射，由於第三級發動機高空點火後提前熄火，隻獲得部分成功。經改進後於4月8日再次發射，“長征”3號運載火箭順利地把第一顆試驗通信衛星送上同步轉移軌道，最後定點在東經125度的赤道上空運行。談起這次成功發射，謝光選如數家珍地說：“‘長征’3號運載火箭按運載能力居世界第四位，按使用超低溫高能推進刑居世界第三位，按高空二次啟動氫氧發動機居世界第二位，按研製生產的成本低廉程度居世界第一位，‘長征’3號已達到世界運載火箭先進水平。”他還對記者自豪地說：“我們的‘長征’係列火箭完全是土生土長的，從技術到元器件都是百分之百的國產，具有很高的可靠性。”“長征”3號運載火箭的成功，是我國運載火箭的一個質的飛躍。
謝光選主持研製的“長征”3號火箭，不僅在技術上樹起了一座新的裏程碑，而且在打入國際發射服務市場上也開了先河。1990年4月7日，中央電視台首次在西昌衛星發射中心現場直播“長征”3號發射美國製造的“亞洲”1號通信衛星。謝光選雖然對自己研製的火箭有十分的把握，但因為全世界的人都在觀看發射實況轉播，不免心裏仍有很大壓力，特別是在這次發射之前的2月23日，歐洲空間局的“阿麗亞娜”火箭發射失敗，在試驗隊中引起了不小的波動，氣氛也顯得緊張沉悶起來。謝光選提醒試驗隊員要引以為戒，工作要更加認真細致，不能有絲毫的疏忽和怠慢，要絕對保證發射一舉成功，不在世人麵前丟臉。結果是一炮打響，“長征”3號第一次發射外國衛星獲得成功，謝光選在發射現場又一次體驗到成功的喜悅，臉上掛滿笑容，和外賓一起慶祝這一勝利。
謝光選這位在中國大地上土生土長的科學家，一生把“勤奮務實、不懈追求”作為自己的座右銘。盡管他主持研製的“長征”3號運載火箭已經可以把衛星送到36萬千米的地球同步軌道，而且用它發射中外衛星多次立功，但1991年和1996年有兩次因火箭二次啟動時引發壓力尖峰損壞零件而未能將衛星送入軌道。謝光選擔任了故障調查委員會主任，經過認真的數值計算，做到了故障定位準確，機理清楚，為解決“高空失重場多次啟動發動機的問題”提供了寶貴的經驗。他袒露自己的心願：太空高處不勝寒，願在有生之年再為航天事業做點有益的事情。