中國軍隊近代化的曆史進程同時告訴我們，軍隊近代化必須要有一個良好的民眾素質。
自古以來，中華民族就以自己的文明、智慧著稱於世，但也留下了沉沙糟粕。伴隨中國社會內部新陳代謝而演進的軍隊近代化過程，充滿了先進與落後、正確與錯誤、新生力量與腐朽力量之間的鬥爭。這是中國軍隊近代化的一大特點。
事實上，從西方先進的軍事製度和科學技術在中國軍隊內部開始移植、萌芽之時起，傳統觀念、落後意識和儒家文化，就頑固地加以抵製，竭力表現自己。一方麵，軍隊的近代化被限製在以家長製為宗法社會組織的樊籬之中，從清末統治階級到國民黨統治者，都竭力貫徹“忠君”思想，強調遵行綱常禮教、儒家道德。
由於長期封建思想的熏陶，對軍官層和士兵層的大多數人來說，都認為這是天經地義的事，並以此作為部隊生活的準則；另一方麵，在小農經濟的汪洋大海中滋蔓起來的內傾封閉式小農價值觀，也滲透到中國軍隊近代化的各個環節。軍官層中普遍存在著裙帶風和恩師、門生關係。袁世凱、蔣介石所培植的北洋軍閥體係和國民黨新軍閥，如果從觀念形態上追根溯源的活，是可以從小農價值觀的泛濫之中尋找到活水源頭的。
透過軍隊近代化的外觀，可以見到中國軍隊軍官層中，普遍而廣泛地熏染著自私而落後、散漫而懶惰、保守而不求進取等小農意識。同樣，組成中國軍隊基本部分的，仍然離不開廣大少有知識、近乎文盲的士兵層，軍官中反映出來的各類弱點，其中一部分則於士兵層中表現得更為強烈而已。
馬克思主義認為，傳統觀念是一種社會的惰性。在中國軍隊近代化進程中，那種因循守舊、抱殘守缺的舊觀念所設置的種種規範，就足以引起人們的反思。
如果說，從鴉片戰爭到甲午戰爭期間幾十年裏，中國軍隊在兵器更新和采用某些西式訓練方法以及軍製等方麵的部分改革中，受到了頑固守舊派的狂叫怒罵，受到反科學、反改革的封建陳腐教條竭力抵抗的話，那麼，從甲午戰爭開始，這種正麵衝突已經基本結束。但鬥爭依然存在，並更深刻地反映到了軍隊內部的肌體中。那種尊古賤今、墨守成法的現象，可以說比比皆是。在兵工廠，進口了“第一流的設備”，而仍然賣力地製造著舊式武器；在軍營裏，“兵不諳器”現象普遍存在。由於新式武器性能複雜，因而“停半演半”，棄而不用；甚至在戰場上，將領們仍守古法，“各執其偏見，以為牢不可破”。先進的軍事技術不斷受到冷落，完全是傳統觀念和儒家思想在作祟，這是延宕軍隊近代化進程的原因之一。
因此，掃除傳統觀念的影響，抵製落後意識的侵襲，提高全民族的文化素質，是促進軍隊近代化的必然前提。無產階級領導的人民軍隊，從誕生之日起，就與傳統觀念實行決裂，從而劃清了與地主資產階級軍隊的原則界線。這個優良傳統，必須世代相傳，發揚光大。
中國軍隊近代化的曆史進程還告訴我們，學習和引進西方先進的科學技術和武器裝備，需要有一個正確的態度。無可否認，在半殖民地半封建經濟落後的中國，要改變現狀，建立一支強大的軍隊，不學習外國先進的軍事技術，不引進一些自己暫時還不能生產的先進武器裝備，就無法達到這樣的任務。
上文所述，那種夜郎自大、故步自封的封建保守思想，那種死抱綱常名教的封建陳腐教條，那種反對科學、反對新生事物的封建頑固態度，表現了對世界形勢的毫無所知，是地道的落後意識觀念，是設置在軍隊近代化道路上的巨大障礙。然而，當傳統觀念和儒家思想給人們帶來的固執保守、盲目自大的神聖靈光在西方“文明”衝擊下黯然失色時，又會盛行起盲目自卑、崇洋媚外之風。這在清末新軍編練過程中表現得淋漓盡致。
清末新軍編練之始，就強調“一切操練章程均按西法辦理”，“一切行軍應用器具”都“按照西法購備”。在編練時，新軍都以德國人或日本人為教習，編製不仿德便仿日。從編練的內客及方法看，均竭力全盤西化。清政府曾將《西法類編》、《德國陸軍操典入門》等書分發各營，將書中兵法、軍器、測繪、數學等內容，統統規定為必學範圍，“責成營官以時誦習，務期逐漸通曉”；並將世界地圖、亞洲東部地圖、沿海口岸全圖等，也“一體購印頒發，不時翻閱”，“指勇丁以為精通門徑”。足見新軍生搬硬套、盲目抄襲的程度了。
必須指出，這種盲目性與中國殖民地化的程度是成正比的。辛亥革命並未改變中國社會的性質。在民主主義革命基石上建立起來的大地主大資產階級聯合專政的南京國民政府，從本質上講，仍然是帝國主義控製中國的工具。對外屈膝投降，對內殘酷鎮壓，是構成這一政權的基本特征、在這種基本特征之下，表現在軍隊建設上，則由盲目自卑進而崇洋媚外，認為外國的軍事技術裝備一切都好，外國的月亮比中國的圓，中國人什麼都不如外國人。
正因這樣，南京國民政府以無條件學習外國全部軍事技術作為改革軍隊的終南捷徑，把引進外國所有的武器裝備看作是加強軍隊建設的靈丹妙藥。這也是使中國軍隊近代化遭受窒息的又一原因。