他陷入了兩難之間：一方麵，他看到資源貧乏的日本不僅要與美國，而且還要和中、英、荷，也許還要和蘇聯同時作戰的暗淡前景；另一方麵，他要承擔作為聯合艦隊司令長官必須執行的職責的壓力。
為了取得印尼的石油，向南方作戰，必須避免美國太平洋艦隊從夏威夷出發打擊日本的側腹，還需要把美國太平洋艦隊阻擋在南方水域之外，至少在頭幾個關鍵月份中應做到這一點。
如何才能辦到呢？自山本登上“長門號”之後，他就在苦苦思索這個問題。
山本認為，依靠海軍曆來對美作戰的正統的戰略思想，是不可能完成上述任務的。長期以來，日本海軍奉行的是以日俄對馬海戰為依據的大炮巨艦主義的艦隊決戰戰略，堅持以戰列艦為核心的傳統作戰方式。
自從1905年日本海軍大將東鄉平八郎在日本海大海戰中大勝沙俄艦隊以來，日本海軍就充滿著海上爭霸思想，並把美國視為其在西太平洋爭奪海上霸權的主要敵人。
日俄戰爭以後，日本在1907年製定的《帝國國防方針》和《帝國用兵綱要》就提出了建設“八八艦隊”、確定對美采取截擊作戰的戰略方針。
所謂截擊作戰，就是基本原封不動地采用在對馬海戰中截擊殲滅沙俄波羅的海艦隊的東鄉戰略，即以戰列艦為主力的聯合艦隊利用地理條件以逸待勞，伺機同美國海軍主力進行決戰並加以殲滅。以後雖幾經修改，但其基本方針未變。
在1936年修訂的《帝國用兵綱要》中規定：一旦日美開戰，陸海軍首先協同攻占菲律賓和關島，迫使美艦隊遠渡重洋進至西太平洋實施進攻作戰。
日本的海軍將領們把未來事件的進程看成是這樣：一支強大的美國艦隊向西挺進，長途跋涉遠道而來。這時，日本以南洋各群島為基地，用潛艇和陸基飛機不斷削弱美國艦隊的力量，待其實力削弱到大體和日本艦隊的實力相匹敵或弱於日本艦隊時，以戰列艦為核心的日本艦隊進入有利的戰略位置，尋機與之決戰。
雙方都橫過空闊的洋麵，把各自的艦隻排成戰鬥序列，打出所有的炮彈。當硝煙和火光散去之後，日本的勝利將自然浮現出來。美國的鋼鐵巨獸將一隻接一隻淒涼地瘸著腳朝家逃竄，或者艦首向上，如同向大海行死亡前的敬禮，然後永遠消失。
在山本看來，這種戰略思想是一廂情願的，不過是軍令部的那些年輕參謀脫離實際的紙上談兵而已。戰爭一旦爆發，除僥幸外，誰也不會相信戰爭會按著這個模式發展下去。
山本的好友堀悌吉在戰後整理的《五峰錄》中總結山本的看法時說：
不論是海軍大學所進行的沙盤演習，還是軍令部所提出的對美作戰的戰略計劃，實際上都是脫離實際的主觀臆斷，是主觀主義的產物。
以軍令部的作戰計劃而論，如前所述，概括起來包括這樣四點內容：一，日本主動攻下菲律賓；二，迫使或誘惑美國艦隊前來救援；三，在馬裏亞納群島一帶逐步削弱敵艦隊的力量；四，進行艦隊決戰，一舉全殲前來之敵。
這純屬用想當然代替現實的概念遊戲，是把敵人的行動規範在自己想象之中的脫離實際的主觀臆斷，不過是一廂情願而已。既然如此，那麼對於保證日本側翼不受美艦隊幹擾，同時又要把主力用於南方戰役的課題，山本就必須找到有效的答案。
1940年3月，聯合艦隊舉行演習。山本站在當做靶艦的戰列艦上，觀看航空部隊在統一指揮下進行白天魚雷攻擊演習。長機率領著成群飛機，越過戰艦的密集炮火，向下俯衝，魚雷從戰艦的桅杆掠過，劃出一道白光，接連向艦腹衝去。
演習用的魚雷是不會爆炸的，當撞上艦體後，魚雷即浮上水麵冒出白煙，演習完畢後可再收回。山本看到這一情景，心裏十分高興，他情不自禁地向站在身旁的參謀長福留繁少將問道：“參謀長，能不能用飛機攻進夏威夷？”福留中等身材，有著肥厚的胸膛和健壯的肩膀。這位海軍大學的優等生，是一名不折不扣的艦炮專家。美作家高爾登·普朗格在他的名著《我們沉睡在黎明》中這樣描寫他：
他的頭腦不像山本那樣突然爆出主意，許多主意在他頭腦中像植物生長那樣慢慢地成熟。他支持向南擴張，但他缺乏山本那種先知先覺的睿智、個性和訓練。
此刻，他正疑惑不解地看著山本，像在聽天書。
的確，夏威夷距離日本有3000海裏之遙，若要擊潰夏威夷的美國太平洋艦隊，就得犧牲大量的機動艦隊。在襲擊之前，如被對方巡邏機發現，反有被殲滅的危險。
把僅有的航空母艦投入具有賭博性的戰爭，值得嗎？兩個月後，5月7日，在東太平洋舉行大規模演習的美國太平洋艦隊，沒有像往年那樣演習後返回西海岸，而是接到了就地停泊於珍珠港的命令。美國總統羅斯福想利用太平洋艦隊進駐夏威夷對日本施加壓力，以遏製日本的南進。
可是，羅斯福卻沒有想到，恰恰是他的這一行動激發了在大洋另一端的山本五十六襲擊珍珠港的決心。1940年11月，山本和他的同學吉田善吾、島田繁太郎同時晉升為海軍大將。海軍軍階達到頂點的山本更加賣命。
同月，為響應政府南進的號召，他率聯合艦隊進行進攻荷屬東印度的圖上演習。在演習過程中，山本更加明確地認識到，如果對荷屬東印度動手，英、美是不會袖手旁觀的。
他在寫給朋友的一封信中說道：
我們發動針對荷屬東印度群島的軍事行動，有很大可能會導致與美國過早交戰。並因為英國和荷蘭將和美國站在一邊，我們對荷屬東印度群島的軍事行動在完成一半之前，將幾乎確定無疑地發展成與美國、英國和荷蘭作戰。
因此山本主張，從製訂戰略方針的角度來看，不管對哪個國家動手，必須從一開始就製訂一個對三國作戰的切實可行的方案。
而在執行這一方案時，日本海軍的大部分兵力一旦投入資源豐富的南方地區，其側腹就暴露給了強大的美國海軍。隻要美國艦隊主力向日本進攻，日本海軍屆時就不得不匆忙從南方作戰中調回決戰兵力。如果到了這個地步，日本海軍的命運就慘了。
演習結束後，山本迫於這樣一種嚴峻的形勢，以一個賭徒特有的心理，終於下決心采取在胸中構思已久的攻擊珍珠港的方案：在開戰之初，抓住絕妙良機，不惜投下相當大的賭注，斷然對夏威夷瓦胡島的美國太平洋艦隊發動突然襲擊，並給以沉重打擊。山本五十六終於找到了出奇製勝的辦法。11月下旬，山本親至東京向海軍大臣及川古誌郎談了自己的這一想法。
到了1941年，成熟的方案在山本的心中再也隱藏不住了，他想到的不是讓這一方案變成電光一閃的火花，而是付諸實施的炸雷。
1941年1月7日，元旦剛過去才幾天，山本坐在停泊在廣島灣柱島的“長門號”上的座艙裏，用了整整九頁海軍格紙，給及川古誌郎寫了一封《關於戰備的意見》的長信。
山本在這封信中，第一次正式提出了自己內心醞釀已久的關於夏威夷戰役的設想。
山本的意見書在一開頭寫道：“任何人對緊張的國際形勢的發展都無法正確預測，但是，海軍，特別是聯合艦隊，應該以對美、英必戰的決心，進入認真備戰並製定作戰計劃的時期，這是毋庸置疑的。”
在作戰方針上，山本寫道：
關於曆來作戰方針的研究，總是把堂堂正正的以迎擊為主的作戰方式作為對象。然而從過去多次舉行的圖上演習的結果來看，采取迎擊戰法，使用主艦隊決戰，帝國海軍尚未取得一次大勝，而且，每次總因為這樣下去會削弱日本海軍的實力而不得不中止演習。如果是為了決定戰爭如何發展，這樣做尚稱可以，但一旦開戰，為了戰則必勝，這樣的作戰斷斷不可。
山本在意見書中鑒於對美作戰的特殊形勢，完全擯棄了在西太平洋迎擊美國艦隊的進攻，以艦隊決戰殲滅美國艦隊的這一日本海軍傳統的戰略思想，轉而主張“開戰之初，就猛攻並擊沉敵人主力艦隊，挫傷美國海軍及美國國民的士氣，使之達到無可挽救的程度”。
山本認為“隻有這樣，才能確保日本立於不敗，維持大東亞共榮圈的建設”。軍國主義的瘋狂性，使本來對美國的物質力量作出準確判斷的山本，完全錯誤地估計了美國人民的精神力量，犯了一個戰略家不應犯的致命錯誤。
山本在信中接著強調：“在戰爭爆發之際，我們應該竭盡全力，要有決勝敗於第一天的決心。”
山本具體設想了執行這一方案的幾種情況：第一，在敵主力艦大部分泊於珍珠港內時，“以飛機隊徹底擊潰之，並封鎖該港”；第二，在敵主力艦艇泊於珍珠港外的情況下，“按照第一種情況處理”；第三，在敵主力艦艇首先從夏威夷出擊並發動進攻的情況下，“派決戰部隊迎擊，並一舉殲滅之”。
在兵力的使用上：
一、使用第一航空戰隊，即航空母艦“赤城號”、“加賀號”和第二航空戰隊，即航空母艦“蒼龍號”、“飛龍號”待月夜或黎明，以全部航空兵力對敵人發動強襲，以期全殲。
二、一個水雷戰隊，負責搭救因不能避免敵機反擊而沉沒的航空母艦上的官兵。
三、一個潛水戰隊，逼近珍珠港，迎擊匆忙出動之敵。如可能，於珍珠港入口處斷然擊沉敵艦，利用敵艦封鎖港口。
四、補給部隊，為補給燃料，以數艘加油船充實該部隊。
當然，山本也沒有忽視日本的主要目標。“夏威夷作戰要和菲律賓、新加坡方麵的作戰同一天實施。但隻要擊滅了美主力艦隊，菲律賓以南的雜牌部隊就會喪失士氣，不敢逞能。”
“盡管夏威夷作戰損失可能很大，但如果我們對其采取守勢，等待敵人來攻，那麼敵人就有可能一舉襲擊我本土，燒毀帝國首都及其他大城市。如果發生這樣的事態，國內輿論嘩然，我們海軍將受到輿論的譴責，國民的士氣也將跌落。”他堅信，“雖然此次作戰之成功並非容易，但有關將士若能上下一體，堅定以死奉公之決心，可期天佑以獲成功。”
最後山本在意見書中提出他個人的請求：“卑職真心希望自身擔任攻擊珍珠港的航空艦隊司令長官，親自指揮夏威夷作戰。”
從1941年1月開始，山本五十六全力組織力量論證和製訂具體作戰方案。他首先把製訂基礎方案的任務交給了密友——第十一航空隊參謀長大西瀧治郎少將。