彼得決定要改革軍隊，提高士兵素質，逐步減少外國軍官的數量，培養本國和本民族的中高級軍官。讓他們在心裏想著祖國，想著軍人的榮譽。特別是1689年射擊軍參與大貴族發動的宮廷政變，彼得下決心要改革俄國的軍隊。從1699年開始，俄國開始建立新式正規軍，曆時10年，到1709年基本完成建設任務。
正規陸軍分成野戰部隊和預備役部隊，野戰部隊是國家的常備軍，其給養由國家統一提供，是國家對外戰爭的主力部隊。預備役部隊是各省的地方部隊，主要任務是鎮守一方土地，一旦戰時補充野戰部隊。
正規陸軍由步兵、龍騎兵、炮兵、工兵4個兵種組成，以步兵為主。步兵又分成火槍兵與擲彈兵兩種，龍騎兵既能乘馬作戰又能徒步作戰。彼得非常重視陸軍的炮兵，他提出：炮兵是陸上的戰爭之神。俄國的炮兵分成攻城炮兵、要塞炮兵、野戰炮兵和團屬炮兵，工兵列入炮兵的編製之內。陸軍最高編製單位是師，依次為旅、團、營、連。從俄國人中間培養各級軍官，中高級軍官從貴族子弟中選拔，下級軍官可以由一般平民擔任。
彼得下令從莫斯科的貴族子弟中選拔50個人，派他們到普魯士、荷蘭等國，在那裏學習數學、築城學、造船學和其他科學，他們是未來的俄國軍隊中高級軍官的人選。
俄國軍隊的裝備過於落後，沒有自己的海軍。遠征亞速的失利，很重要的原因是失敗在武器和裝備上，俄國沒有自己的海軍，無法封鎖黑海海岸，無法切斷土耳其人的補給線，戰爭爆發後，土耳其人岸上和海上配合作戰，往往使俄國軍隊腹背受敵。
阿列克薩什卡曾經非常不服氣地說：“在佩列亞斯拉夫湖上也有我們自己的艦隊”，當時彼得就苦笑著說：“那個艦隊隻是小水塘裏的玩具，經不起大風大浪。”“要建立真正的海軍”，早在回莫斯科的路上，彼得就已經在考慮這個問題，他在寫給尼基塔·佐托夫的信中提到：“從沒有攻克的亞速回來，將軍會議向我指出，要為將來的戰爭建造海船、兵船、帆船和其他各種艦船。今後我們要不斷地專心從事這些工作。炮手彼得。”
回到了莫斯科，彼得立即召集貴族杜馬委員會和社會各界名流、地方鄉紳，宣布俄國必須迅速建立一支強大的海軍，他舉起自己的胳膊說：“這好比是一個君主，如果隻擁有陸軍，他就是身體殘缺的人，隻有同時具備了海軍，他才是一個雙臂健全、出擊有力的人。”
彼得要求他們為了俄羅斯貢獻出自己的財產，凡領有10，000名以上“農奴”的農奴主必須捐獻出一艘裝備有火炮的軍艦，東正教會也必須按照他們所占有的“農奴”人數捐獻軍艦。彼得下令在沃羅涅什建立造船廠，利用當地優質的橡樹、鬆樹和椴樹造船，這裏曾經創造了一天就砍伐7，000棵樹的紀錄。彼得詔令全國，招募全國的能工巧匠，甚至強迫各地的木匠、鐵匠和泥瓦匠放下自己的活計，成批地被趕到頓河邊上的沃羅涅什造船廠。俄國宮廷從國外招募了一批艦長、駕駛員和水手，目的是讓他們承擔起培養俄國水手和海軍軍官的任務，但他們來到亂草蓬生、野獸出沒的沃羅涅什之後，有的人就開始打退堂鼓，彼得下令強迫他們為俄國服務。
在沙皇的命令下，建造軍艦所需的鐵、銅、瀝青、麻繩、鐵釘、帆布等源源不斷地運到沃羅涅什。彼得非常起勁地在工地上幹活，他親自設計了一艘能載200人的多桅快帆軍艦的草圖，然後光著膀子，手持斧子、創子、鉛垂和圓規大幹起來，一連幾天不離開工地，胡子長的遮住了臉，使得與他一起幹活的工人幾天都沒有認出來這是“沙皇大人”。
彼得自小就喜歡做一些手工活，他要看見自己親手設計和建造的軍艦下水。很快地，一支蔚為大觀的艦隊出現在沃羅涅什，其中包括1，300隻舢板，300艘小艇，100條木筏，23艘大帆船，4艘火攻船和2艘大戰艦。就在未來的艦隊尚在建設之時，彼得便著手建立俄國海軍的司令部，他任命勒福爾特為海軍上將，威尼斯人李馬為海軍少將，法國人巴爾塔薩·德·奧茲埃為海軍準將。彼得自己做普通一員，不過這次不是“炮手”，而是“艦長”兼駕駛員，一個下級軍官。
亞速遠征的失敗，使彼得看到戰術應用的重要性。這是彼得指揮的第一場真正的戰爭，在此之前彼得隻指揮過娃娃兵團的軍事遊戲，隻指揮過進攻所謂的“軍事要塞”。亞速海大戰的失敗，在很大程度上是由於戰略戰術的失當。在亞速大戰中，土耳其人采取了集中火力，陸地和海上相互配合的戰術。而俄國軍隊卻分成了娃娃軍團、戈登的布特爾斯基雇傭軍團、哥薩克軍團、射擊軍團，各自為政，難以協調。甚至在攻城時，工兵部隊與進攻部隊沒有配合，造成地雷在自己人中開花的事件。