為了進一步加強同意大利的關係，1936年8月下旬，希特勒派遣意大利國王的女婿、納粹黨重要領導人達西亞親王，作為他的特使秘密前往羅馬拜會墨索裏尼。9月23日，希特勒又派親信漢斯·弗蘭克訪問羅馬，向墨索裏尼轉達了希特勒邀請他訪問德國的願望，並談判“德國和意大利越來越緊密合作的必要性”。
10月20日，意大利外長齊亞諾前往柏林。次日，他在柏林開始和德國外長牛賴特進行談判。10月24日，簽訂了秘密協定，即德意柏林協定。其主要內容是，德國正式承認意大利兼並埃塞俄比亞；雙方共同承認西班牙佛朗哥政府並加強對它的軍事援助；在不幹涉委員會內采取共同行動方針；在多瑙河流域和巴爾幹地區劃分兩國的勢力範圍。而德國也承認意大利有權成為地中海地區的主人；相互協作，發展兩國空軍。
德意柏林協定的簽訂，標誌著德意法西斯同盟的初步形成。11月1日，墨索裏尼在米蘭教堂廣場發表轟動一時的演說，聲明：“柏林會晤的成果是兩國在某些問題上取得了諒解”，“柏林—羅馬垂直線……是一個軸心，可以在這個軸心周圍團結所有願意進行合作和維護和平的歐洲國家”。這充分暴露了法西斯國家欲以武力征服世界的貪婪野心。至此，“柏林—羅馬軸心”正式確立。
柏林協定的簽訂，使德國在歐洲有了盟友，但這還遠遠不夠，它還需要在東方能夠牽製蘇聯與英美的日本，構成法西斯同盟的另一翼。德國與日本的結盟嚐試在德意接觸之前就開始了。早在1933年初，希特勒就明確提出了與日本建立密切關係的問題。他認為，除了德國和意大利外，隻有日本才是“能夠對抗世界威脅的力量”。他還曾同裏賓特洛甫就“是否能夠以這種或那種形式同日本建立更為緊密的聯係的問題”進行了討論。此時，日本法西斯通過發動“九·一八”事變走上與世界對抗之路後，在國際上空前孤立，也迫切需要“再次在世界強有力的國家中尋找朋友”，其眼光很快轉向了正在歐洲迅速崛起的德國。
1933年2月，日本退出國聯時，外務省歐亞局局長東鄉茂德在提交廣田外相的《退出國際聯盟後帝國對歐美的外交方針》中提議：“在日德關係上，利用極右黨掌權的機會，努力使它了解我國在遠東的立場，同時促進日德學術文化的接觸和了解，以使把德國引到我方。”同時，鬆岡洋右在德國的報刊上表示，德國是“曆史上唯一同日本的曆史發展道路有如此之多的相似之處，並同樣在爭取世界承認自身地位的國家”。
出於相互利用的需要，日德關係很快轉熱。1934年3月，日本派出“德國通”大島浩為駐德武官，6月，日本成立了日德協會和旅德日本人協會，11月，在京都成立日德文化研究所等學術團體。1934年和1935年，日本多次派軍艦訪問德國，以示對德友好。
1935年春，德日兩國法西斯政府就建立同盟問題開始進行試探和接觸性談判。最初的接觸是在德國外交官哈克和日本駐柏林武官極端親德分子大島浩之間進行的。哈克提議在兩國間締結針對蘇聯的防務協定，大島向日軍參謀部請示後表示同意，並希望就協定的範圍、內容和形式作更詳細的研究。1935年底，日本又派出參謀部情報部德國組長若鬆前往德國活動，先後與裏賓特洛甫和德國國防部長布洛姆貝格會談。1936年“二·二六”事件後，日本軍部法西斯政權確立，大大推動了德日同盟的建立。
4月，主張日德親善的有田八郎出任外相後，致電日本駐德大使武者小路：“各種情況表明，有必要在日德間建立更為密切的關係。”日德之間的談判遂改由武者小路和裏賓特洛甫通過外交途徑進行。同年5月，德國政府擬定了由希特勒親自修訂的德日協定草案和一份秘密附件。7月，德國正式向日方提出了《反共產國際協定》草案文本和秘密附件。
8月7日，日本內閣召開會議，通過了《帝國外交方針》，決定實現日德合作。10月23日，日本駐柏林大使武者小路與德國代表裏賓特洛甫代表本國政府草簽協定。11月25日，正式在柏林簽訂《反共產國際協定》。協定之所以采用這個名稱，同希特勒的反動策略手法有關。他充分地利用了英法統治集團懼怕共產主義的心理，減少英法對其侵略擴張的阻力。正如希特勒對他的黨羽所說的：“我們必須……利用布爾什維克主義的幽靈來遏製凡爾賽諸國，要使他們相信，德國是反對赤禍的決定性堡壘。這是我們渡過危機、擺脫凡爾賽和約和重新武裝的唯一方法。”