群眾的情緒更加澎湃。總工會移師湖北江岸辦公，2月4日上午9時，哄傳中的京漢鐵路全路總同盟罷工，由漢口江岸分會委員長林祥謙一聲令下，長辛店、鄭州、漢口同時發動，終於見諸現實。工人們誓言：“我們是為爭自由作戰，爭人權作戰，隻有前進，決無退後的。”2月6日，各工會組織慰問團至江岸京漢總工會，各界民眾一萬多人，在漢口遊行示威，武漢全市震動。
關於“二七大罷工”的總指揮是誰，史書記載，多有含糊。《李大釗傳》稱“大釗同誌是這次大罷工的積極領導者之一”。吳佩孚的幕僚汪崇屏也認為是李大釗：
民國十二年（1923年）2月4日，京漢鐵路工會下令定於第二天早晨全線罷工，由李守常（即李大釗）來領導，實際出麵的是王功與李振瀛。長辛店、鄭州、漢口同時發動。到2月7日，軍隊出來幹涉，強迫複工，在漢口、長辛店都發生流血慘案。李認為是吳所下的命令，其實吳不曾下令，吳根本就不知道李是共產黨。
當時李大釗確在漢口，但不是總指揮，他隻是和一些工運領袖有接觸而已。總指揮是張國燾，他在回憶錄中稱：“2月4日正午，京漢路全線同時進入了罷工狀態，我成為這次罷工的最高指導者。”
京漢鐵路乃直係生命線。吳佩孚決不允許京漢鐵路癱瘓，當時他的氣勢正盛，隻手幾可遮天，命令湖北督軍蕭耀南立即解決工潮，不惜采取武力。2月7日，全麵鎮壓開始了。江岸工會遭到軍隊圍攻，工人赤手空拳，與手執長槍大刀的士兵搏鬥，死傷無數，血流滿地。一名工人領袖手持罷工指揮旗，帶頭向士兵的隊伍衝去，被子彈擊中頭部，倒在血泊之中，口中仍高呼“殺呀”。武漢實行大戒嚴，各工會被封，工聯會遭劫；軍警密布街市，捕拿工人領袖。
在軍警包圍江岸總工會前幾分鍾，張國燾及時躲進了法租界，逃過一劫。當晚，總工會決定複工。但大規模捕殺並沒有停止。共產黨工運領袖鄧中夏記述，在“持槍帶炮的軍隊”血腥鎮壓中，工人當時死者四十餘人，傷者數百人，被捕入獄者四十餘人，被開除流亡在外者一千餘人。③林祥謙被捕後，軍隊逼他下複工命令，林祥謙回答：“頭可斷，工不可開！”於是，他就人頭落地了。施洋亦於2月15日（農曆除夕）被軍方逮捕槍決。施妻含淚奔走於京滬等地，為夫鳴冤；其父在施洋犧牲後，悲哀不已，數月後亦一病不起。鄧中夏被北京政府通緝，不得不逃亡上海。國民黨工運領袖馬超俊痛心地說，慘案發生後，“工人如喪考妣，重入深受壓迫無可告訴之境……‘工會’二字，工人再不敢提及，實為全路工運之徹底摧毀時期。”
中共在北方突然遭此重大挫折，幾年間辛苦建立的基礎，幾被摧毀殆盡，痛定思痛，終於承認“工作中心已不在北方，現在應當加強上海、廣州等處的工作”。與國民黨實行“黨內合作”，亦未嚐不是休養療傷的權宜之計。
但話雖如此，中央還是不願意遷到廣州，於是又搬回了上海。由於孫文對“二七慘案”一言不發，對軍閥既沒有作過任何抗議，對工人也沒有表示過任何同情與支持，使得中共對南方更加不滿。維經斯基也一直反對把中央遷到廣州，“中央委員會不應在廣州孫逸仙的鼻子底下，至少應在上海的某個地方。”
可是馬林對“孫逸仙的鼻子底下”情有獨鍾，非要中央搬到廣州不可，在這場“迫遷”之爭中，他要壓倒維經斯基。維經斯基與斯大林沒什麼交情，但馬林有莫斯科的尚方寶劍，勝券在握。
3月，陳獨秀率先南下，隨後，整個中央，連同《向導》周報，便一並遷到了木棉花開的廣州。不過，陳獨秀的心情，三分春色，二分愁，更一分風雨，感受不到半點大地回春的喜悅。飽受兵災的廣州，已是千室為空，一片淒涼，滿城盡是滇、桂軍的驕兵悍將。市民扶老攜幼，含淚奔避，載道流離，和任何一個被軍閥戰亂蹂躪的城市，毫無二致，沒有一絲革命氣氛。這一切，都令他情緒低落，鬱鬱寡歡。
1923年初夏，張國燾從莫斯科回到中國，他仍然不滿中共加入國民黨的政策。他當麵批評馬林在中國工作問題上屬於右派。張國燾質問馬林：“沒有人反對我們的人加入國民黨，然而問題是：我們在多大程度上能保持我們的獨立自主？為國民黨的發展，我們合作到何種程度？應在哪些問題上批評國民黨？”而馬林則堅信，如果不加入國民黨，既要與國民黨一道工作，又要保持獨立性，這必然使中共變成一個毫無意義的小宗派。他甚至斷言，在中國，建立一個工農政黨的可能性較之印度等國要小得多。③
中共第三次全國代表大會在廣州舉行。毛澤東陪同馬林從上海到廣州。爭論也從上海移師廣州。6月12日，來自北京、上海、湖北、湖南、廣州、山東、浙江等地的三十多名代表，濟濟一堂，相聚在廣州東山的一幢小洋樓裏。在這裏他們可以半公開活動，無須像在上海那樣，為了躲避巡捕密探，不得不把會場東搬西挪。
在三大上，代表們對國共合作一事，再起激辯。
張國燾、蔡和森等人反對共產黨加入國民黨，尤其反對產業工人加入國民黨，與陳獨秀、馬林展開反複辯論。張國燾說：“我們寧可保持左，左的錯誤比右的錯誤容易改正。” 這時，寧左勿右的陰影，已開始影響人們的政治思維了。張、蔡甚至用極嚴重的語氣批評，馬林和陳獨秀要“葬送中共”。而毛澤東則明確站在陳獨秀、馬林一邊，支持國際意見。