六月二十八日，徐光啟上《遼左阽危已甚疏》，較係統成熟地提出他的“正兵”之術。其中包括：①亟求真才以備急用，②亟造實用器械以備中外戰守，③亟行選練精兵以保全勝，④亟造都城萬年台以為永無虞之計，⑤亟遣使臣監護朝鮮以聯外勢。徐光啟進呈的這五條建議是從選才、造械、練兵、築台和聯外五個方麵構想的全麵阻止、戰勝金兵的強國之術，他對選練精兵良將和製造熱武器尤其重視。為了選拔英雄俊傑之類的軍事人才，他提出了切實可行的人才保舉法，即命令在京官吏薦舉他們知道的各種有用之才，任人唯賢，盡量搜羅一切有一技之長的軍事人才參加救亡戰鬥。同時，選拔精兵，進行嚴格訓練，並用當時較先進的西洋火器裝備兵士，使之能攻無不克，戰無不勝。
徐光啟的建議並未立即被萬曆皇帝采納。後來一些大臣認為自兵戰以來，隻有徐光啟的論兵之言屬“確當之論”，並奏請朝廷命光啟出山主持練兵事宜。由於兵臨城下國勢危急，萬曆皇帝才於四十七年（1619）八月下旨：“徐光啟曉暢兵事，就著訓練新兵，防禦都城。”徐光啟才得以將他的滿腔愛國熱忱拋灑在練兵場上。然而，當他走馬上任以詹事府少詹事兼河南道監察禦史的新職著手練兵時，他方發現自己不過是有職無權的一堆熱情。他的練兵計劃從一開始就受到毫無效率的官僚體製的左掣右肘，他要兵無兵，要餉無餉，要械無械，兵士在寒風朔雪中連溫飽問題也難以解決。這種狀況使他陷入“瞻前顧後，輾轉回惶”的境地。萬般無奈的徐光啟隻好上疏祈求罷斥。這不過是要求得到更多支持的一種策略。
直到泰昌元年（1620）四月，徐光啟才領到一些餉械，親赴通州、昌平，開始他的選練新兵的工作。在通州，他從七千多名新兵中選出四千多能滿足他的精兵標準的兵士，又赴昌平，親自檢驗五六千新兵，“逐一辨析，逐一勸勉，自朝至暮，手口並作”。過度的勞累使這位滿腔熱血的愛國誌士“前疾複發，頭目昏眩，一指麻木，漸次蔓延，左畔二肢，殆成偏廢”這次他真的隻能“乞休”了。天啟元年（1621）三月三日，他受命“回原籍調理”。到了五月，頗孚眾望而且深知兵略的徐光啟又奉旨回京，因為金兵在五月又攻占了遼陽，危急的局勢使人又想到了他。徐光啟回京後，將當年接連進呈之疏重新鈔呈，並提出鑄造西洋大炮和建築台銃的計劃，希望自己的建議能被采用，但對他的根本性的練兵計劃仍無人理睬，他隻好懷著幻滅的練兵夢再次退回天津屯田。在此之前，唯一令他滿意的成就是完成一項重大部署。還在他練兵於通州、昌平時，他曾致書好友李之藻、楊廷筠（皆天主教徒，被稱為明末教中“三大柱石”），請他們設法赴澳門購買西洋大銃。張燾受李、楊之命采購了四門西洋大銃，運到江西廣信後出於對形勢的考慮被迫停擱下來。徐光啟五月回京後，這四門大銃被運到北京。
九年之後，即崇禎二年（1629）十二月，金兵長驅直入，攻到北京德勝門。正忙於修曆工作的徐光啟提出了守城的建議，他的建議被采納後，參加了保衛京師的戰鬥。他提出了一係列建議，著重強調配備武器和選練兵士。由於火器在當時守衛京師時作用巨大，使金兵“去京師而不攻，環視涿州而不攻”，產生了畏銃的情緒，徐光啟更倚重從西洋輸入的火器。他建議組建車營，組成一支用各類大小鳥銃配備的三五千人的部隊，並主張將習銃的兵士擴大到三萬人，他認為這是“甚近甚易”的破虜之策。