20世紀20年代的日本，工人運動風風火火，可在全日本200多萬職工、30多萬工會會員中，有21萬都屬右派工會，這些人多分布在東京、大阪、神奈川、兵庫等重要城市，在日本無產階級中有相當重要的影響力。佃農們也在接連不斷的運動中成熟起來，20年代末，日本全國就有4600多個佃農組合，這些組合的會員加起來共有36萬多，和工會會員相當。日本無產階級的規模和戰鬥力都較從前有了很大發展。
共產國際一直對日本共產黨的倉促解散大為不滿，可於1922年倉促建立的日本共產黨著實難以應對艱難的政治環境，最早的共產黨員們也說不上成熟，除了滿腔熱情外，對未來缺乏切實規劃。1923年的大量黨員被捕事件和1924年的共產黨解散，都對共產黨人造成了不小的衝擊。
殘酷的現實如淘沙大浪，種種的變故瀝去了黨中的意誌不堅定者，同時讓那些堅定者更加清醒，更加成熟。1926年年底，日本共產黨重建，這次在數不清的鬥爭中成長起來的共產黨人審慎地將重建地點選在度假勝地山形縣的五色溫泉，以避開政府的耳目。參加重建會議的有17人，和1922年的建黨大會類似，其中大部分的黨內重要領導人都不是工人，和4年前的建黨大會不同，此時的日本共產黨對未來該何去何從、如何實踐政治理想都有了相當清楚的規劃。
福本和夫曾毫不留情地批評過山川均的“方向轉變論”，對山川鈞提出的日本共產黨應“到群眾中去”的觀點不以為然，他在日本共產黨的重建《宣言》中指出，在日本希望真正掌握馬克思主義的知識分子已經在幾年來的理論鬥爭中團結起來，並已成功地和工人運動結合。他們要在實現資產階級民主主義後，將其轉化為無產階級革命。福本主義在1926年的共產主義者間頗為流行，在福本眼裏，共產黨員就應該是少數精英分子，要 想爭取廣大勞動者參與鬥爭，就 必 須 先 培養他們的階級意識和革命意識。1927年，德田球一、福本和夫、渡邊政之輔等人遠赴莫斯科，並自信滿滿地向共產國際介紹了福本和夫的思想，卻沒想遭到了共產國際的嚴厲批評。共產國際認為，日本共產黨若想取得革命的成功，就 必 須 變 少 數 精 英 的 黨 為 大 眾 的 黨 。日本是亞洲唯一的帝國主義國家，既有資產階級民主主義革命的客觀條件，又具備將資產階級民主主義革命轉化為社會主義革命的條件。但如果沒有廣大群眾作依托，再優越的理論也實現不了，共產黨無論從哪個角度看，都應該成為“工人的黨”。
共產國際方麵的話如一聲驚雷，立即震醒了福本和夫等人。1927年7月15日，共產國際發布了對日本共產黨未來發展影響重大的《二七年綱領》。
《二七年綱領》確定之前，中國的共產黨人正遭受著蔣介石政府的殘酷鎮壓，上海的“四一二”政變，讓中國籠罩在濃重的白色恐怖下，大量的共產黨員被捕殺。緊接著1927年8月汪精衛叛變，情勢對中共愈發不利。共產國際在製定《二七年綱領》時感慨道：和中國相比，日本共產黨的問題根本不算問題，中國曆來是帝國主義蠶食的對象，日本卻是蠶食他國的帝國主義國家。中國的民族資產階級在夾縫中生存，苦苦尋覓著自己的權利，日本的資產階級早就擁有了權利，並已經拿著手中的權力鏟除國家中殘餘的封建力量。
曾經大力支持福本和夫主張的日本共產黨爽快地接受了共產國際方麵的建議，1927年11月，德田等人帶著《二七年綱領》回國，重新組建了黨的中央委員會，新委員會的8名委員絕大部分都是工人出身。德田球一和福本和夫都自動放棄了領導職位。後來日本共產黨宣傳陣地的《赤旗報》正式創刊，黨內各人都為了擴大黨的聲勢多方奔走。1927年初，全日本的共產黨員不過145名，僅過了一年時間，這一數字就變成了407，其中大部分黨員都是工人出身，可見從莫斯科回來後，日本共產黨在向成為“工人的黨”上做了多大的努力，盡管此時真正在工廠工作的黨員不過10%。
左派人士的活動引起了日本各媒體的注意，不 僅 雜 誌 社 紛紛向他們約稿，就 連 出版社都競相出版左派人士的文集，共產主義思想便以這些文章書籍為媒介，迅速向社會各階層傳播，然而此時，日本共產黨擁有的黨員不過500多人。
1928年2月，日本的街頭巷尾都在議論著普選的事。日本共產黨也參與了選舉，並明言他們參選的目的並不僅僅為改良現有法律，而是為攻破資產階級的內部堡壘，以議會為支點，奪取政權。他們從共產國際那裏得到了1萬日元的選舉費用，這在當時不是一筆小數目。議會不會任由要奪取自己權利的勢力介入，也不會任由反對自己的組織坐大，結果11名共產黨候選人全部落選。不僅如此，大選剛剛結束一個月，政府就加大了對共產黨的打擊，勞動農民黨、工會評議會、無產階級青年同盟結社都在一夜之間變成非法政黨，1600多人遭到逮捕，就連各大高校中的社會研究會都沒能幸免被解散，日本共產黨遭受重創。事情沒有就此結束，同年6月新修訂的《治安維持法》出台，死刑被列入其中。
在政府的大範圍清剿下，很多黨組織都毀於一旦，1928年10月，剛剛參加完共產國際大會的市川正一回國後的第一件事就是重建黨組織。可未等他的工作進行完，新一輪針對日本共產黨的大檢舉活動又開始了，1929年4月，700多名黨員被政府逮捕，日本共產黨的生存環境愈發嚴峻。