山本認為，就日本的國力而言，打一場同世界強國之間的戰爭，條件還不成熟。如果非打不可，那麼絕不能依靠巨艦大炮與之海上決戰，唯一可以扼製敵人的辦法就是依靠飛機打擊。
他曾設想，在一般情況下，如果具有強大優勢的美海軍橫渡大洋攻擊日本，日本海軍可以使用一種大型的遠程陸基戰鬥機對之進行轟炸攔阻，不斷削弱其力量。當他們到達日本近海時，力量就被削弱到與日本艦隊差不多，甚至劣於日本艦隊。
後來的戰爭發展表明，在美國艦隊攻擊日本本土時，日本采用的就是這種戰略。
出於這種思考，山本五十六竭其所能發展空軍力量。在任航空本部技術處長時，他就開始對飛機進行技術改造，生產全金屬高性能飛機，並提出“國產化”的口號。
1933年，他主持設計成功遠程陸基機“八式特種偵察機”，1934年成功地改造為“九式中型陸基轟炸機”，1936年投入大批量生產，被稱為“九六式陸基轟炸機”。這種飛機在當時世界各國中，技術和攻擊力堪稱一流。
山本五十六在任航空本部部長期間，每月至少要到三菱重工業公司和名古屋的飛機製造工廠去訪問一兩次，並且想方設法爭取三井、住友和日立三大公司參與航空工業的發展。
此外，他還經常到曾經工作過的霞浦海軍航空隊探視，給予海軍航空事業高度關注。
其間曾經發生許多有趣的事情。當時，由於技術和人員素質方麵的原因，航空隊事故發生率很高，航空隊副隊長桑原雄虎對此一籌莫展。這時，有人向他推薦了一名看相先生，說是能夠分辨哪些人適合駕駛飛機，桑原向有關方麵提出建議，結果引起一片嗤笑。隻有山本表示大力支持。
事實證明，這種看相的方法實際上是一種經過長期觀察積累的經驗，在當時科技尚未發達的情況下，不失為一種辦法。結果，這位看相先生被正式任命為海軍航空本部顧問。
這件事既表明了山本對部屬的關心，也說明了山本在某些方麵與常人想法不同，幾乎完全憑直觀的判斷。在山本五十六的心血澆注下，日本海軍航空飛速發展，日本的飛機生產能力躍居世界第二，空軍戰鬥力也迅速提高。1937年8月，為配合陸軍大規模侵華，日本海軍發動“八一四”空戰，雖然遭到失敗，但其跨海作戰的能力令世界矚目。值得慶幸的是，山本的航空打擊和空海軍思想並未被海軍首腦所接受。早在1934年10月，日本海軍軍令部就確立“帝國海軍第三次造艦補充計劃”，決定建造配備18英寸大口徑火炮，總噸位達72000噸的巨型戰艦“大和號”和“武藏號”。山本對此激烈反對，但他的建議未被采納。“二·二六”事件以後，廣田弘毅組閣。他任命海軍大將永野修身擔任海軍大臣，取代了大角岑生的位置。永野修身是一位很有才華的海軍大將，但是過於自負，極易衝動。山本對他常抱輕蔑態度，然而永野對山本卻十分推崇。
早在他出使參加倫敦裁軍會議時，就曾邀山本參加，遭到了拒絕。擔任海軍大臣後，他首先選中山本五十六擔任海軍省次官，山本再次拒絕。永野不高興地問山本是否對他抱有成見，存心不予配合。在這樣的情況下，山本五十六不十分情願地答應了擔任海軍省次官職務。
盡管山本五十六對海軍省次官的職位不感興趣，但擔任此職卻為他推行自己的主張提供了條件。他一方麵全力協助永野修身整飭海軍；另一方麵極力鼓動永野與陸軍抗衡。
使他失望的是，永野在對待陸軍問題上經常表現出軟弱。1937年1月，國會中殘存的政黨勢力指責軍部幹預政治，並指名陸軍大臣寺內壽一應當切腹自殺。陸軍態度十分強硬，提出政黨要進行反省，內閣召開會議，解散國會。在軍部的幹預下，廣田弘毅內閣於1月23日瓦解，永野修身隻好離開海軍省。
為了加強海軍的地位，山本說服永野推薦米內光政任海軍大臣。於是，在林銑十郎大將的內閣中，米內擔任海軍大臣，山本繼續任次官，開始了海軍省的米內一山本體製時代。米內對山本十分信任，不僅因為兩人曾同在炮術學校學習，並結下深厚友誼，更因為思想觀點甚至性格都十分接近。
一般情況下，山本的意見和建議都能得到采納，米內也由於有山本這樣的得力助手十分省心。
山本任海軍省次官期間，日本侵華戰爭全麵爆發。然而在日本軍部內部，對待侵華戰爭的態度卻不一致。