萬曆三十五年（1607年）初，徐光啟結束了作為翰林院庶吉士的三年學習生活，正式步入仕途。由於他一向勤奮學習，畢業成績優異，因而被授予翰林院檢討的官職。能在體麵、尊貴的翰林院工作，可謂前途一片光明。
當徐家上下還沉浸在喜悅中時，一件不幸的事發生了。這一年的四月二十八日，徐光啟的父親徐思誠在京城病逝。承受著巨大悲痛的徐光啟向皇帝遞交了解職還鄉的奏折。這是為什麼呢？原來按照中國古代的禮製，父母去世，做官的兒子要解職回鄉守喪，閉門謝絕應酬，以二十七個月為期，通稱為“三年在籍守製”。於是，這一年的八月十六日，徐光啟護送父親的靈柩南下，回到家鄉上海縣，直到萬曆三十八年（1610年）才回京複職。
這時的徐光啟作為“京官”，在上海縣城內的社會地位已經很高了，當地的官員、鄉紳們都等著一睹他的風采。然而，每一次當地名流的聚會中都找不到徐光啟的身影，人們紛紛猜測他的行蹤。而在上海縣城南門外康衢裏一處名為“雙園”的地方，人們時常會看到一位身穿麻布孝服的中年人，肩挑糞桶，手拿鋤頭，赤著雙腳，在田地裏施肥、鋤草，勞作不休，忙得滿頭大汗。每當鄉親們走過，看到茂盛的莊稼，不禁會投來羨慕、尊敬的目光。偶爾路過的行人，怎麼也不能想象，在這裏勞作的莊稼漢，竟是貴為翰林院檢討的徐光啟！
徐光啟務農，並不是他的一時興起，更不是為了標榜清高，而是基於他清醒的認識——興盛農業，而興盛農業是富國強兵之本。徐光啟出身貧寒，從小就跟著父親參加過農業勞動，加上在青少年時期，家鄉頻遇災荒，他深刻體會到農民忍饑挨餓的痛苦，因此他立誌改革農業，任何時候都不忘對農業和農學進行研究。他為自己取了個號，叫“玄扈”，因為我國古代把督促農桑的候鳥稱作扈，他選這個字為號即表示要重視農業生產。早在20歲左右時，他就注意農田水利的興修，關注家鄉水道的流向，還親自測量過家鄉周圍河道的寬窄以及河底的深淺。這時的徐光啟還善於經營規劃，曾有一塊長滿雜草的水淹地，鄉親們都認為是沒有利用價值的荒地，徐光啟把它略加修築，種上柳樹，竟得到不少柴火，除了供自己家燒用，還有多餘的可以賣出，收獲相當不錯。
42歲那年，徐光啟整理了自己曆年的測量結果和水利設想，擬訂了一份《量算河工及測量地勢法》，呈送給當時的上海知縣，供測算河工及測驗地勢時參考。這份水利工程計劃書為修建龍華港及周邊農田蓄水排水工程提供了很大幫助。
熱心於農業、水利的徐光啟早就想抽出些時間，對農業生產、水利工程進行係統的研究，這次回鄉守製便給了他這樣一個機會。他打算將自己家的田地和園子用作試驗場，把自己在書本上看到的學問付諸實踐，如果成功了，也可告慰操勞了一生的父母。
天有不測風雲，就在徐光啟回到上海後的第二年，江南地區連降大雨，江河湖水暴漲，鬆江、蘇州、常州等地的農田多被淹沒，糧食顆粒無收。洪水退去，緊接著便是饑荒，糧價飛漲，無數農戶斷了炊煙，災民無以果腹，隻好外出討飯。目睹嚴重的災荒，徐光啟沒有一蹶不振，而是立即采取行動。他利用自己的身份地位，向萬曆皇帝遞上奏折，請求朝廷撥付稅金二十五萬賑濟江南地區。這筆錢款解決了災民們的燃眉之急。可徐光啟明白，這並沒有解決根本問題，他渴望找到一種能幫助農民度過荒年的高產糧食作物，這樣，即使將來再遇到災害也不怕了。
正當徐光啟為此苦苦思索的時候，從福建莆田來了一位姓徐的客商。他告訴徐光啟，福建有一種叫甘薯的農作物，不怕幹旱，不怕台風，產量比稻麥高出幾倍，可替代農民半年的口糧，閩廣一帶農民賴以為生。徐光啟聽後，十分高興，決心在家鄉試種。
甘薯在我國又稱番薯、山芋、紅薯或地瓜，原產於中美洲，適宜在熱帶和亞熱帶地區栽種。大約在明代後期，也就是16世紀八九十年代由菲律賓傳入我國福建、廣東等地。由於甘薯產量高，食用方便，很快就成為我國南方農民的重要糧食來源。而在溫帶的上海，當時還沒有人種過。
要把甘薯從亞熱帶的嶺南地區移植到溫帶的長江下遊地區，關鍵是要解決甘薯秧的安全越冬問題。最初的幾次試驗都失敗了，那位莆田客商帶到上海的薯秧在冬天被凍壞了，栽到地裏無法存活。後來，徐光啟想了個辦法，他請莆田客商買好薯秧後在秋天栽到裝有泥巴的木桶裏，開春時從福建連桶帶泥運來上海，然後再剪下藤枝栽到地裏。這次試種終於成功了，入夏，田裏長滿薯藤，一片碧綠。秋收時，挖出的甘薯大如碗口，一畝可收數十石，比稻穀產量不知高出多少倍。收獲的甘薯既可生吃，又可蒸煮、火烤、油煎，還可曬幹後長期保存，更可磨粉、製酒，用處頗多。