在幾個月的練兵過程中，徐光啟風餐露宿，辛苦備至。他一遍又一遍地給新兵講授練兵規則，事必躬親地做示範動作，常常累得汗流浹背，頭暈目眩，終於練出了一支精悍的隊伍。徐光啟培養的士兵中有三千多名後來被拉到遼東作戰。在與後金的戰爭中，唯有徐光啟練的這支軍隊“足當一麵”。人們由此感慨說，假如能由徐公主管當年軍事，明朝打敗後金、恢複遼東是完全可能的。
八月，萬曆皇帝駕崩，他的孫子朱由校繼位，改元天啟。這位少年天子整天嬉戲，朝政大權落在宦官魏忠賢的手中。這位曆史上著名的奸臣專橫跋扈，聯合朝臣中的小人陷害賢良，無惡不作，把國家弄得烏煙瘴氣。徐光啟眼見朝政日益腐敗，感到練兵無望，便托病辭官，回天津務農了。
這時，後金漸漸向明朝進逼。天啟元年五月，後金軍占領了沈陽，又向明軍重兵把守的遼陽進攻。戰鬥中，明朝遼東經略袁應泰殉國，遼陽失守，後金軍占領了遼東全境。明政府這才又想起了徐光啟，於當年六月再三催促他回京。
徐光啟又一次義無反顧地回京複職了。在同西方傳教士長期接觸中，深感到西洋火炮是一種殺傷力很強的銳利武器。他認為，要速勝後金，必得從精良的武器入手，而西洋火炮實為重要一環，便建議朝廷派能手仿製西洋火炮。早在通州練兵時，徐光啟就曾委托自己的朋友李之藻到澳門購買西洋火炮。李之藻湊了一筆錢，在澳門買了四門火炮，還聘請了精通技術的歐洲人和翻譯。但不久徐光啟就被迫辭職，練兵中止，李之藻怕這些火炮落到其他官員手中，不受重視，而變成廢物，就暫時把火炮存放在江西。這一次徐光啟複職主持練兵，李之藻便讓自己的學生將這四門火炮運回京城，還讓學生寫了一本《西洋火攻圖說》作為使用說明。
躊躇滿誌的徐光啟向朝廷提出了仿造火炮和建造炮台的計劃，然而一些腐敗守舊的官僚紛紛指責徐光啟購買、仿製西洋火器是“開門揖盜”“引狼入室”，群起誹謗、阻撓徐光啟的計劃，終於使之因缺乏經費而擱淺。加上皇帝昏庸，以魏忠賢為首的閹黨把持朝政，徐光啟不願受他們的籠絡而與之同流合汙，便又一次辭職回到家鄉上海。但值得一提的是，由澳門運來的四門火炮在對後金的戰事中發揮了極大的威力。天啟六年（1626年）寧遠之戰中，袁崇煥用運來前線的西洋火炮幾次擊退了後金軍隊，後金首領努爾哈赤在炮火中受了重傷，旋即身亡，後金也暫時停止了向明朝的進攻。這次激戰中，有一門西洋火炮立功最多，被封為“安邊靖虜鎮國大將軍”。
雖然勵精圖治的崇禎皇帝於天啟七年（1627年）繼位，恢複了徐光啟等正直官員的官職，無奈明朝已是日薄西山，病入膏肓，敗亡之勢無可挽回。徐光啟計劃建立一支精銳的火器營，卻因為將領孔有德擁兵叛變歸順後金而宣告失敗，他在軍事上的抱負與才能，終究未能得到施展。