文明開化也帶來了自由民權運動的興起，終於引起了保守勢力的擔憂和反感。他們以文明開化傷風敗俗為由，提出加強“忠孝仁義”教育的主張，使得以“忠君愛國”為核心理念的國家主義教育逐漸占據了支配地位。很快，連發給小學生使用的《幼學綱要》中都充斥了忠孝仁義的學說。
1890年，明治天皇頒布了《關於教育之敕語》。主要目的是向日本國民灌輸國民道德的根源、國民教育的基本理念，倡導忠君愛國思想，成為此後日本推行天皇製的精神及道德支柱。此後規定，每當節日慶典，全國學校都需集體宣讀《教育敕語》，播放歌頌天皇統治的歌曲《君之代》，同時向天皇、皇後的“禦影”鞠躬行禮。它使得一代代日本人從少年時就開始深受忠君思想的影響，成為忠實履行天皇使命的工具。《教育敕語》的頒布表明，文明開化盡管使日本成為了知識上和技術上先進的現代化國家，但在思想上的某些方麵，封建落後的種子卻並未得到真正根除。
第五，改革封建軍製，建立近代化軍隊。
1873年頒布征兵令，在“國民皆兵”口號下，強征大批青年，建立常備軍。這支軍隊稱為“皇軍”，即天皇的軍隊，強調效忠於天皇，並貫徹“武士道”精神。同時建立從中央到地方的警察製度。
富國強兵其實是每一個國家和民族夢寐以求的目標，明治時代的日本也是如此。在殖產興業、文明開化、富國強兵三項治國綱領中，富國強兵被確定為建國的總目標，其他兩項政策都圍繞實現這一目標而展開，這也更加凸顯出其重要地位。日本史學家藤原彰認為，明治初年的富國強兵政策，以創建中央軍隊、扶持軍事工業為開端，從整頓戶籍、義務教育製度、強化警察網、充實官僚機構來看，其中無一不是以建設強大的軍事國家為目的的。可以毫不誇張地說，軍隊建設成為當時日本壓倒一切的任務。
早在幕末開國之時，西方列強的堅船利炮不僅打開了日本的國門，也深深地震撼了日本人的內心。在恐懼、憤怒和羨慕相互交織的複雜心態下，他們對於國際強權政治現實的認識和理解也陷於矛盾之中：在被迫忍受並試圖擺脫強權政治所帶來的痛苦煎熬的同時，卻又充滿了將這種痛苦強加於其他國家、以謀求自身利益的急切渴望。因此對於日本而言，富國強兵政策的提出從一開始就不單純是為了修改不平等條約和改變受列強壓迫的局麵，而是具有更深層的考慮，就如《五條誓文》所言：要“開拓萬裏波濤，布國威於四方”。正因為這樣，“富國強兵”政策很快就演變為“強兵富國”。看似簡單的文字調整，卻顯示出治國理念和發展道路選擇上的轉變。
其實，明治政府中要求走“強兵富國”路線的聲音始終存在，特別是人稱“後三傑”之一的山縣有朋更是鼓動侵略的代表，他露骨地叫囂：“現今兵部之目標在於內，而將來則在於外。”充分表白了其對外擴張的野心。在執掌了日本軍隊的大權之後，他主持進行了一係列的軍事改革，也鼓吹發動了一次次對外侵略戰爭。
體製的變革是強軍的根本。在認真研究、對比西方列強兵製的基礎上，山縣有朋決定日本陸軍采用法國體製，而海軍則采用英國體製。1872年，他建議政府取消了原有的兵部省，轉而設立了陸軍省和海軍省。1873年，明治政府頒布《征兵令》，徹底打破封建武士壟斷軍事的特權，開始實行近代意義上的全民義務兵役製。這不僅使日本建立了一支新式的常備軍，而且確保了兵源的充足，為進一步擴軍備戰打下了基礎。1874年，山縣效法普魯士的成功經驗，在陸軍省內設立參謀局，後將其改組並擴大為獨立於陸軍省的參謀本部，成為統轄軍令的核心機關。參謀本部成立後所做的第一件事情就是下令偵察中國的地理和軍事情況，著手為武力入侵做必要的準備。此後不久，又設立了監軍本部，後改為教育總監，專司軍隊教育和幹部人事之責。至此，形成了由陸軍省、參謀本部和教育總監共同組成的日本軍隊的最高指揮機構，即通常所稱的“軍部”。這一係列改革使軍隊的政治地位迅速上升，軍部的權力也越來越大。到19世紀末，隨著日本對外擴張步伐的加快，軍部的地位更加高漲，其政治影響力逐漸超過了政府內閣，表明日本的軍國主義體製最終確立。1874年，日本還參照外國經驗建立起近代警察組織，成為維護國內安全、鎮壓人民反抗的重要力量，甚至在殖民朝鮮期間，也發揮了臭名昭著的作用。
提高軍人素質也是造就強軍的重要內容。為提高軍人的素質，日本廣泛借鑒歐美強國的做法，建立了各種專業軍校，並聘請外籍教官負責訓練，為軍隊培養了大量的專門人才，帶動了日本軍人素質的整體躍升。在日本官方看來，效忠天皇也是日本軍人必備的素質。因此，日本的新式軍隊稱為“皇軍”，意為天皇的軍隊，提倡武士道精神。