1933年2月，日本退出國聯時，外務省歐亞局局長東鄉茂德在提交廣田外相的《退出國際聯盟後帝國對歐美的外交方針》中提議：“在日德關係上，利用極右黨掌權的機會，努力使它了解我國在遠東的立場，同時促進日德學術文化的接觸和了解，以使把德國引到我方。”同時，鬆岡洋右在德國的報刊上表示，德國是“曆史上唯一同日本的曆史發展道路有如此之多的相似之處，並同樣在爭取世界承認自身地位的國家”。
出於相互利用的需要，日德關係很快轉熱。1934年3月，日本派出“德國通”大島浩為駐德武官，6月，日本成立了日德協會和旅德日本人協會，11月，在京都成立日德文化研究所等學術團體。1934年和1935年，日本多次派軍艦訪問德國，以示對德友好。
1935年春，德日兩國法西斯政府就建立同盟問題開始進行試探和接觸性談判。最初的接觸是在德國外交官哈克和日本駐柏林武官極端親德分子大島浩之間進行的。哈克提議在兩國間締結針對蘇聯的防務協定，大島向日軍參謀部請示後表示同意，並希望就協定的範圍、內容和形式作更詳細的研究。1935年底，日本又派出參謀部情報部德國組長若鬆前往德國活動，先後與裏賓特洛甫和德國國防部長布洛姆貝格會談。1936年“二·二六”事件後，日本軍部法西斯政權確立，大大推動了德日同盟的建立。
4月，主張日德親善的有田八郎出任外相後，致電日本駐德大使武者小路：“各種情況表明，有必要在日德間建立更為密切的關係。”日德之間的談判遂改由武者小路和裏賓特洛甫通過外交途徑進行。同年5月，德國政府擬定了由希特勒親自修訂的德日協定草案和一份秘密附件。7月，德國正式向日方提出了《反共產國際協定》草案文本和秘密附件。
8月7日，日本內閣召開會議，通過了《帝國外交方針》，決定實現日德合作。10月23日，日本駐柏林大使武者小路與德國代表裏賓特洛甫代表本國政府草簽協定。11月25日，正式在柏林簽訂《反共產國際協定》。協定之所以采用這個名稱，同希特勒的反動策略手法有關。他充分地利用了英法統治集團懼怕共產主義的心理，減少英法對其侵略擴張的阻力。正如希特勒對他的黨羽所說的：“我們必須……利用布爾什維克主義的幽靈來遏製凡爾賽諸國，要使他們相信，德國是反對赤禍的決定性堡壘。這是我們渡過危機、擺脫凡爾賽和約和重新武裝的唯一方法。”
協定的主要內容有2條：（1）“締約國相約對於共產國際的活動相互通報，並協議關於必要的防止措施，且緊密合作，以完成上述措置”。（2）“締約國對於因共產國際的破壞工作而國內安寧感受威脅的第三國，應根據本協定的誌趣，采取防止措置，或共同邀請加入本協定”。
在締結協定時，根據德國的要求，德日雙方又簽署了一個直接反對蘇聯的秘密附件。雙方約定，“遇締約國一方無故遭受蘇聯進攻或進攻威脅時，不采取任何有利於蘇聯的行動”，“並應立即著手討論保護共同利益的措施”；兩國保證在條約5年的有效期內，未經兩締約國同意，不得與蘇聯締結與本協定精神相抵觸的任何政治性條約。
《反共產國際協定》的締結，表明日本法西斯與納粹德國在侵略擴張的共同利益下，走向結盟的開始。這一協定雖然打著“反共”的旗號，但其矛頭並不僅僅指向蘇聯和各國的革命運動，其主要的目的還是以此為煙幕，掩蓋它們同英法美爭奪勢力範圍，最終建立世界霸權的狂妄野心。裏賓特洛甫在協定簽訂後表示；“形式上我們還要把蘇聯當作主要敵人，然而，實際上，我們完全應該把英國當作主要敵人。”當時，日本駐英大使吉田茂也認為；“盡管（日本）軍部說防共協定隻不過是反共的意識形態問題，但這個完全是表麵上的借口，骨子裏顯然是要和德意聯合起來對抗英法，並進而對抗美國。”
正因為如此，協定簽訂後，德國在致日本的秘密照會中強調，它認為德蘇之間現有的那些在法律上仍然有效的條約，如1922年拉巴洛條約和1926年的友好中立條約，其各項條款與《反共產國際協定》的精神及由此產生的義務是不相抵觸的。
在德日簽訂《反共產國際協定》之後，希特勒急需將意大利拉進協定，結成較為穩固的集團。但是，意大利仍希望抬高自己在盟約中的地位，促使德國在殖民地、政治和其他方麵給意大利以優厚的報酬，因此，並不急於加入協定。相反，在1937年1月與英國締結了彼此承認在地中海利益的“君子協定”。這使希特勒大為不安。1937年初，他連續向羅馬派去了戈林等一些重要使節拜會墨索裏尼，並熱情邀請墨索裏尼訪問德國。
1937年9月25日，墨索裏尼接受了希特勒的邀請，第一次訪問德國。訪德期間，墨索裏尼公開向希特勒保證，意德兩國“要共同奮鬥到底”，“堅定不移地繼續意德合作”。在一次群眾集會上，墨索裏尼洋洋自得地發表了一通好戰言論，他說：“當言詞不足以達到目的，情況又緊迫的時候，人們就不得不拿起武器。我們在西班牙就是這樣幹的。”
通過為期4天的訪問，墨索裏尼堅定了與納粹德國為伍的決心，並決定參加《反共產國際協定》。11月6日，德意日三國代表在羅馬簽訂了《關於意大利加入反共產國際協定的議定書》，從而形成了柏林—羅馬—東京軸心。希特勒得意地宣稱：“三個國家聯合起來了，起初是歐洲軸心，現在是世界的大三角”。這個三角主要是針對著“我們的舊敵人（即英法美）”。“這個三角，並不是由三個微弱的幻影組成的，而是由三個大國組成，準備並決定實現它們的權利和確保它們的生死利益。”齊亞諾在簽署《反共產國際協定》的當天的日記中寫道：“像意大利、德國和日本這樣的三個軍事帝國結盟，在軍事均勢方麵具有前所未有的重要意義。倫敦應當重新考慮它的所有立場”。
從此，軸心國便成為世界上一切反動勢力的中心。後來，匈牙利、偽滿洲國、西班牙、保加利亞、芬蘭、羅馬尼亞、丹麥等國也相繼參加了《反共產國際協定》。這樣，在世界上便出現了一個最富侵略性的國家集團。
德日意三國軸心的建立，標誌著法西斯侵略集團的初步形成，它是3個法西斯國家進一步加緊勾結，準備發動世界大戰的重要戰略步驟。它的建立助長了法西斯國家的侵略氣焰，壯大了侵略者的聲勢，為法西斯國家發動戰爭創造了重要前提。希特勒在軸心建立後露骨地宣稱：“締結同盟的目的如果不包括戰爭，這種同盟就毫無意義、毫無價值。我們締結同盟隻是為了進行戰爭。”