1848年革命失敗後，歐洲革命運動處於低潮。馬克思、恩格斯總結了1848年革命的教訓，深入研究政治經濟學和資本主義社會的發展規律，密切聯係各國工人運動骨幹，並悉心加以培養，從思想上、理論上和組織上積極準備建立國際工人運動組織。
1857年，世界經濟危機從美國開始，蔓延到歐洲大陸，資本主義社會的各種矛盾激化。50年代末60年代初，歐美工人運動再次高漲。資本家常用解雇本國罷工工人，招雇外國工人的辦法來對付罷工。各國工人們在鬥爭中感到需要加強團結和合作，從而產生了建立國際工人組織的要求。
1859年，倫敦建築工人罷工，英國各地工人和法國工人募捐支援，使罷工能堅持1年之久並取得了勝利。1862年，法國和德國的一些工人到倫敦參觀世界博覽會時，曾與英國的工會聯合會商討過國際團結問題。1863年，波蘭人民起義反抗沙俄統治，遭到沙皇政府血腥鎮壓。英國工人在倫敦集會，支持波蘭人民的正義鬥爭。會後，英國工人代表寫信給法國工人組織，信裏呼籲：“讓法蘭西、意大利、德意誌、波蘭、英格蘭和一切具有為人類幸福而合作的決心的國家的（工人）代表們聚在一起。讓我們召集我們的大會，讓我們首先合力為爭取波蘭的自由而奮鬥。”法國工人組織派出以托倫為首的代表團，帶著回信於1864年訪問了英國。回信中說：“決不容許戴著血淋淋的王冠的國王們勾結起來，宰割那些被強者掠奪得一貧如洗的各國人民”，“全世界的工人們！我們必須團結起來，築成一座堅不可摧的堤壩，來抗拒把人類分成兩個階級——愚昧饑餓的平民和腦滿腸肥的官吏——的害人製度。我們要團結起來拯救自己！”
1864年9月28日，英、法、德、意和波蘭的工人代表，在倫敦聖馬丁教堂集會。英、法工人代表在會上宣讀了上述兩封信。會議根據法國工人代表的提議，通過了建立國際工人組織的決議，從而在實際上宣告了第一國際的誕生。
會後，馬克思等受委托起草第一國際的成立宣言和章程的草案。後來，馬克思又受委托修改草案，重新寫了《國際工人協會成立宣言》和《臨時章程》，在11月1日獲得總委員會的通過。
《成立宣言》揭示了資本主義製度下不可避免出現的貧富兩極分化，揭示了資產階級和無產階級的根本對抗，指出“奪取政權已成為工人階級的偉大使命”，再次提出了“全世界無產者，聯合起來！”的口號。