日本海軍聯合艦隊在1944年1月開始的馬紹爾群島戰役中，不但沒能出海迎戰，反而退至帛琉群島，直接導致了馬紹爾群島於4月失守。這引起了日本內閣和陸軍對海軍的強烈不信任，甚至有些人提出放棄馬裏亞納群島，但日本大本營非常清楚馬裏亞納的重要性，決定沿千島群島、小笠原群島、馬裏亞納群島、加羅林群島和新幾內亞群島西部建立必須絕對予以確保的防線——“絕對國防圈”，馬裏亞納是該防線的核心。
日軍自1944年2月起，開始著手加強該地區的防禦。由於以前馬裏亞納群島是海軍負責防禦，島上的陸軍部隊很有限，大本營計劃將中國戰場上的第3和第13師團調往中太平洋，以加強該地區的地麵部隊。但這兩個師團在中國戰場上一時無法脫身，大本營隻好於2月10日將駐中國東北的關東軍第29師團調到馬裏亞納，陸軍部還將新組建的8個支隊也調到該地區。
2月25日，日軍大本營將中太平洋地區所有陸軍部隊整編為第31軍，由小煙英良中將任軍長，規定該軍服從於聯合艦隊司令的調遣。從3月起，日軍進一步動員大批船隻向該地區調集部隊，至5月下旬，31軍已擁有5個師團又8個旅團，分別防守馬裏亞納、特魯克、小笠原和帛琉等島嶼。其中部署在馬裏亞納群島的是2個師團又2個旅團，約6萬餘人。但防禦工事才完成工程量的一半，計劃要到11月方能完成。此時，火炮掩體幾乎沒有，地雷和鐵絲網也沒鋪設，總體防禦根本談不上堅固。
日軍企圖在第一航空艦隊和第一機動艦隊實力有所恢複後，尋找戰機與美軍決戰，爭取扭轉戰局。決戰計劃原是聯合艦隊司令古賀峰一海軍大將（1943年4月18日，山本五十六在從新不列顛島北端的臘包爾起程，前往位於臘包爾東南方的前線航空基地視察途中，被美海軍少將米切爾成功攔截，山本死後由古賀峰一接任聯合艦隊司令）主持製定的，代號為“阿”號作戰。
根據“阿”號作戰計劃，第5岸基航空隊和第1機動艦隊的艦載航空兵將在馬裏亞納群島對來犯之敵實施兩麵夾擊，以抵消美軍航母編隊艦載機在數量上的優勢。日本海軍計劃用於馬裏亞納群島決戰的主力第1機動艦隊是1944年2月由第2第3艦隊合並組成的，幾乎包括了聯合艦隊所有主要水麵艦艇，共有航母9艘，戰列艦5艘，巡洋艦14艘，驅逐艦31艘，艦載機439架，由小澤治三郎海軍中將任司令，具體編製如下：第一航空戰隊：大風、瑞鶴、翔鶴3艘航空母艦，第601航空隊，作戰飛機225架；第2航空戰隊：隼鷹、飛鷹、龍鳳3艘航空母艦，第652航空隊，作戰飛機130餘架；第3航空戰隊：千代田、千歲、瑞鳳3艘航空母艦，第653航空隊，作戰飛機90架。
日軍大本營也深知這支艦隊與美軍太平洋艦隊的航母編隊在實力上存在較大差距，所以決定第5岸基航空隊與之配合作戰，充分發揮艦載航空兵與岸基航空兵的協同威力。第5岸基航空隊分為3部分，分別部署在帛琉、馬裏亞納和雅浦3地，每一處的航空隊都擁有戰鬥機、轟炸機、攻擊機和偵察機。日本大本營還在“阿”號作戰計劃中明確指出：“集中我大部分決戰兵力，準備在敵軍主要反攻的正麵，一舉殲滅敵艦隊，以挫敗敵軍的反攻企圖。”