明太祖朱元璋為了鞏固皇權，達到乾綱獨斷的目的，廢止了實行兩千多年的宰相製度，設立了內閣。可是，自從“仁宣之治”年間由“輔政三楊”而始，明朝就確立了真正意義上的內閣製度，皇上大可不必事必躬親，甚至可以無能，可以任事不幹，隻要定下大方向，放手讓內閣去幹就不會有大問題，以至於可以出現“君昏於上，政清於下”的現象。如今也是如此，嘉靖新政各項政策已經出台，具體組織實施便是內閣之事，由他們督率六部等各大衙門並兩京一十三省各地官府將其落到實處即可。
此外，半道出家的朱厚熜也懂得藏拙--別說是他，即便是已經當了二十一年皇帝的正版嘉靖，治國能力也無法與科舉出身、曆練官場幾十年的內閣學士相比，更何況內閣還實行首輔領導下的民主集中製，俗話說“三個臭皮匠，頂個諸葛亮”，諸葛亮是什麼？不就是跟內閣首輔職權差不多的宰相嗎？那麼多的優秀人才集思廣益，唐宗宋祖複生也不敢剛愎自用地認為自己比整個內閣的治國才能還高！
因此，他將日常政務推給了司禮監和內閣六部，將自己主要的精力放在了軍事上，還美其名曰“推行新政，軍事先行。隻有國家長治久安，才能集中精力搞經濟建設。”這些話內閣諸位閣臣都聽不大懂，但也沒有人敢質疑皇上的話，隻能任由他按著自己的想法去做了。
作為大明王朝的國家元首，皇上每年要主持一係列禮儀慶典活動，其中自然少不了檢閱軍隊。朱厚熜原本就是一個軍事發燒友，所以閱兵式比祭天地、祀祖宗，甚至包括冊立嬪妃的儀式更讓他感興趣。好在嘉靖這些年雖然被丹藥和女色掏空了身子，卻也因此沒有明朝皇帝特有的那讓人慘不忍睹的圓球一樣的體型，他還能勉強被幾個內侍扶到馬背上，穿著由皮條折綴而成，外鑲寶石的全紅色“皮弁服”，繞著校場走了一圈。
閱兵式讓朱厚熜很滿意，尤其是對禦林軍從軍官到普通士卒身穿的精美甲胄和手持的精良武器更是讚不絕口，便親切接見了內宮二十四衙門之一的兵仗局上下人等。可是問了之後才知道，他們隻負責為大內侍衛和禦林軍打製甲胄和刀槍劍戟鞭斧弓矢等冷兵器，全國軍隊的火器統一由工部下屬的火器局製造，而軍卒們的甲胄和刀槍一部分由工部兵仗局製造，一部分由各州縣按照一定比例作為賦稅的一部分上繳兵部武庫司統一調配，一部分由各衛所自製。也就是說，作為泱泱中華赫赫天朝的國家武裝力量，明軍除了火器之外，壓根就沒有製式裝備！
這不是在開玩笑嗎？
朱厚熜根本就不信，就隨機抽調了負責維持京城治安的五城兵馬司的部隊、兵部負責內部保衛的警衛士卒以及河道衙門的漕軍會操，做了一個抽樣調查。調查結果差點把他給氣死--士兵手持的大刀長槍不僅式樣不一致，就連分量和長度都不一樣，而且裝備不統一的現象不僅僅是在兩個部隊之間存在，在同一支部隊裏也存在。此外，士兵的甲胄很明顯地分出了三個等級，第一等是兵部負責內部保衛的警衛士卒，因為近水樓台，得到了武庫司提供的製式統一、質量上乘的甲胄；第二等是五城兵馬司的部隊，因在京城王公貴族、文武百官的眼皮子底下，還經常執行諸如戒嚴、為大員提供出行儀仗這樣的禮儀任務，甲胄也比較統一，質量也還算可以；而河道衙門的漕軍與前兩等部隊相比就慘不忍睹了，有的將士穿著銅甲或鐵甲，有的是皮甲，更誇張的竟然還有紙甲，也就是說在被當作製式軍服的棉布襖裏襯以小鐵片甚至厚紙板！這樣的甲胄還談什麼防護能力？！
氣憤不已的朱厚熜當即就召見了內閣有關閣員和戶部尚書馬憲成、兵部尚書丁汝夔和工部尚書林之詮，責令他們立刻改變明軍現行的後勤供應體係，如果目前在糧餉供應體係方麵改革的難度較大的話，至少應該在軍事裝備製造方麵先行改革，朝廷應將工部兵仗、火器兩局劃歸兵部，與兵部武庫、車駕兩司合並，組成一個專門成立負責全軍裝備製造的衙門，由兵部管轄，一定要為將士們提供規格統一、製作精良的製式裝備，絕對不能再任憑這樣粗製濫造的裝備殘害明軍將士們的生命了。
夏言請示皇上如果要設立這個衙門，名稱應叫什麼為好。朱厚熜本來想說“總裝備部”，但考慮到雖然不可能在大明王朝設立總政治部，但至少有機會設立總參謀部和總後勤部，還是尊重中國人民解放軍的曆史沿革，等設立了總參和總後以後再設立總裝吧！因此，“兵工總署”就成了這個衙門的正式名稱。