成進士後的徐光啟一邊忙於翰林館課，一邊更加留心經世致用之學。他曾學過聲律，工楷隸，但自成進士後，他將這些悉數摒棄，專攻天文、兵法、農事、屯、鹽、水利，旁及工藝、數學。1606年秋季，與利瑪竇過從甚密的徐光啟顯然對利氏來京後“論著複少”有些不滿，他希望能從利瑪竇那裏得到更多的東西。一天，他與利瑪竇談到格物及幾何學。在歐洲受過嚴格的科學訓練的利瑪竇談到歐幾裏得的《幾何原本》非常精要，並立刻補充道：翻譯這本書非常困難，他本人曾試圖翻譯，但總難以堅持下來。徐光啟求知甚切，他慷慨陳詞道：“先正有言：‘一物不知，儒者之恥’。今此一家已失傳，為其學者皆暗中摸索耳，既遇此事，又遇子不驕不吝，欲相指授，豈可畏勞玩日，當吾世而失之。嗚呼，吾避難，難自長大；吾迎難，難自消微。正是出於強烈的民族自尊心以及對民族文化的責任感，徐光啟決定迎難而上，開始與利瑪竇合作翻譯《幾何原本》這本傳世之作。他每日下午三四點都布衣徒步到利瑪竇的寓所，請利瑪竇口傳，自己則以筆錄受，並反複輾轉，力求合原作之意。以中文反複訂正，三易其稿，次年春天，譯完前六卷。徐光啟本想一直譯完全書，但利瑪竇卻認為目的已經達到，停止了翻譯。1607年春，徐光啟急不可耐地將這本他認為其價無限的科學著作交付刻印。”
利瑪竇的科學知識不僅吸引了徐光啟，還吸引其他一些士大夫，其中卓有成效者是李之藻。徐李二人是摯友，而且李之藻還先於徐光啟與利瑪竇有實質性的接觸。1603年，當徐光啟在南京受洗入教時，被任命為福建學政、鄉試副考官的李之藻就已帶著簡平儀，在北京與福建的往返途中測驗西洋天文學的真偽，結果是“往返萬裏，測驗無爽”李之藻《渾蓋通憲圖說序》。1605年，李之藻從利瑪竇譯完《渾蓋通憲圖說》。共同的科學興趣和抱負使這兩位傑出的科學家成為親密的合作者，並在共同的科學研究和實踐中貢獻出很多卓越優秀的思想觀念。
《幾何原本》付刻後，徐光啟又與利瑪竇合作翻譯了《測量法義》，不僅介紹西方的測量方法，而且詳述其數理基礎。做完這些工作後，徐光啟又開始將他那顆饑渴的求知之心投向西方天學。1607年，他致書友人說：“西泰諸書，致多奇妙，如天文一節，是其最精者，而翻譯之功，計非歲月不可。用是未暇，以待他日圖之耳。”如果不出現意外，徐光啟還會與利瑪竇在科學領域裏繼續合作下去，為中西科學的交流作出更多的貢獻。但不幸的是，1607年5月，翰林院散館後正在等待分派官職的徐光啟突然遭受父喪，徐光啟隻有回籍守製，按照慣例，這需要徐光啟在上海家中居喪三年。
居喪期間，徐光啟仍堅持其科學研究。他將已與利氏合作譯完但尚未定稿的《測量法義》予以整理定稿，又在《幾何原本》和《測量法義》兩書的基礎上寫成《測量異同》和《勾股義》兩書。後三本書充分表現出徐光啟在獲得西方數理方麵的係統理論和知識後，徐光啟與利氏合作的《幾何原本》融會中西的卓爾不群的科研能力，這幾本著作也奠定了他在中西科學交流史及中國科學技術史上的突出地位。
徐光啟服喪後返回北京時，等待他的卻是利瑪竇葬禮和車公莊的利氏孤墳。傳教士龐迪我和熊三拔將利氏親手校訂的《幾何原本》交給徐光啟，睹物思人，徐光啟“不勝人琴之感”《題〈幾何原本〉再校本》。回想當年，徐光啟曾向利瑪竇請求道：“先生所攜經書中，微言妙義，海涵地負，誠得同誌數輩，相共傳譯，使人人飫聞至論，獲厥原本，且得竊其緒餘，以裨益民用，斯亦千古大快也，豈有意乎？”《跋二十五言》。利氏卻以時間太少為由婉拒了，但後來終於難以抵擋徐李等人強烈的求知欲望，與他們合作翻譯了為數不少的西洋科學書籍。然而，“隨問隨答”（李之藻語）的利瑪竇卻未盡天年而去。這確實使徐光啟感到由衷的悲痛。
利氏的去世並不意味著徐光啟與以利瑪竇為代表的合作從此便中止了。意欲盡譯西洋科學書籍的徐光啟決不會放棄向傳教士學習並與之合作的機會。傳教士熊三拔曾試製測量工具簡平儀，利氏生前曾大加讚賞。徐光啟回京後，熊氏偶然曾向徐光啟“解其凡”，徐光啟如獲至寶，立刻予以筆錄，“草次成章”《簡平儀說序》。取名為《簡平儀說》。這一時期，徐光啟與李之藻協助精通曆數的熊三拔、龐迪我進行研究、翻譯，每刊行一部書籍之前，徐光啟都要親加潤飾。徐光啟還與他們共同參與修曆之事。
1612年，一向關心農事、水利的徐光啟按照利氏生前的囑托，請求與傳教士熊三拔合作翻譯介紹西洋水法。熊氏“唯唯者久之”徐光啟撰《農政全書》《農政全書》的插圖“磨”，“無吝色而有詐色”《泰西水法序》。但相互間的需求關係還是促成了熊氏與徐光啟的合作，譯完《泰西水法》。這本書後來收入徐著的《農政全書》。