3月間，在蔣介石控製的江西地區，爆發了一連串針對共產黨的暴力事件，顯示蔣介石在經過對成本效益的反複權衡和沙盤推演之後，終於開始動手了。
3月11日，江西贛州總工會委員長陳讚賢（中共黨人）被殺；16日，左傾的國民黨南昌市黨部、江西省學聯被解散，左派報紙《貫徹日報》被封閉，幾百名手持刀劍、棍棒的青幫分子，在街頭叫囂示威；17日，九江總工會、市黨部和《國民新聞》社被搗毀，工會多人被打死、打傷，黨部被解散；23日，安慶也發生殺害共產黨人和工人的流血事件，安徽省黨部、安慶市黨部、省總工會、省農民協會、安慶市婦女協會等機構，均被青幫分子砸爛，洗劫一空。
國共處在一種非常奇特的合作關係之中，本來，道合則從，不合則去，是儒者進退的大節，哪怕做生意也一樣，利益一致就合作，利益衝突就分家，本屬平常之事，但由於一開始實行“黨內合作”的形式，造成你中有我，我中有你，權責利錯綜複雜，糾纏不清，現在想分也不易分了，就像濕手沾上幹麵粉，甩也甩不掉，非要鬧到罐破水灑，血流成河的地步不可。
中共中央對蔣介石，早已不抱幻想。3月26日，即蔣介石到達上海的當天上午，由中共中央和上海區委組成特別委員會，在陳獨秀的主持下，召開會議，大家誓言：“我們現在的責任，就是挽救這個全國的危機，要嚴陣以待，集中兵力，並將吳淞及南市大部分兵力調來，四周布防，保護上總與俱樂部。我們要準備一個很大的防禦的流血的犧牲，這個爭鬥比這次暴動的意義更大。幸而勝則已，不幸亦可影響全國，斷絕蔣之政治生命”。一種悲壯的犧牲精神，令人熱血沸騰。
蔣介石2月與維經斯基見麵時，曾表示很久沒有和共產黨的領導人談話了，現在出現國共決裂的局麵，他想見見陳獨秀。但從3月底至4月初，蔣介石三次約請陳獨秀見麵談話，都被對方托病推辭。蔣介石大怒。
陳獨秀認為和反革命已沒什麼話好說，中共與上海工人已做好以死相拚的準備。一度不讚成強行收回租界的上海區委，現在也改變初衷，向黨員們發出號令：“反對反動的新軍閥，積極響應寧案，舉行反英大罷工，達到收回租界的目的。我們要隨時隨地準備武裝與右派軍隊發生總決鬥。”“如果上海工人把右派打倒，租界收回，在革命的前途非常偉大。” ③
不過，3月28日，聯共（布）中央政治局一紙電報，卻給他們潑了一瓢冷水，莫斯科警告說：“請你們務必嚴格遵循我們關於不準在現在舉行要求歸還租界的總罷工或起義的指示。請你們務必千方百計避免與上海國民軍及其長官發生衝突。” 剛剛踩下油門的陳獨秀，馬上又要踩刹車了。
當天，總工會派交際部主任趙子敬為代表，往謁蔣介石於徐家彙交涉公署。
蔣介石親出接見。首由趙陳述上海總同盟罷工響應北伐軍之經過，蔣氏頻為讚許。次說傳聞有將閘北薛嶽師長調駐他處，由第二師長劉峙駐防，並將敝會糾察隊繳械消息，請總司令一言以釋群疑。蔣答：糾察隊本應武裝，斷無繳械之理，如有人意欲繳械，餘可擔保不繳一槍一械。複由趙陳述恐有流氓乘機搗亂糾察隊及敝會事情，蔣答此事當由餘嚴行製止，盡可放心。
然時至今日，無論是虛與委蛇的官腔，還是貌似誠懇的溫良軟語，都已難以令人信服。3月30日，中共特委開會。大家“檢討當前極度危險的局勢，一致認為，除了堅決采取行動反蔣外，別無其他出路”。但大家也明白，莫斯科之命不可違，這也是別無其他出路的。陳獨秀一麵複電莫斯科，說蔣介石已開始發動政變，中共必須有所準備，一麵派彭述之去南京聯絡第二、六軍反蔣，並赴漢口向鮑羅廷及中共中央多數委員陳述意見，決定進攻蔣介石的計劃。
據彭述之自述：
我於1927年3月底離開上海去南京，因為國民革命軍第二和第六軍駐在南京。這兩支部隊仍然是國民黨左派的一部分，是反對蔣介石的。這兩支部隊中的政治委員都是共產黨員；還有許多黨員在其中擔任其他政治工作和軍事工作。所以，我到南京以後，中共南京分部的書記就同第二和第六軍中的幹部和一些俄國顧問召開了一個緊急會議。我在這個會議上報告說，中共中央主張實行武裝鬥爭來反對蔣介石正在準備的反共政變。討論的結果是，全體讚同中央的計劃，特別是俄國顧問們也表示讚同。根據對駐在上海、南京、無錫等地的部隊的分析，使用軍事力量來戰勝蔣介石是可能的。
然而，他們的“武裝鬥爭”，到底有沒有具體方案？是發動兵變？把蔣介石和他的支持者抓起來？殺他個措手不及？還是把隊伍拉走？與蔣介石戰場上見？彭述之沒有詳言，倒是後來幾位在上海工作過的蘇聯人，在給莫斯科的報告中說，他們原計劃派兩三千名工人加入到薛嶽的第一師裏，這樣，他們在上海就擁有八千至一萬名支持武漢政府的軍隊，可以與支持蔣介石的第二師（三千人）對抗。他們還計劃讓左派的第二十一師向上海方向集結，第二軍、第六軍向南京和蘇州集結，從而在根本上改變軍事力量的對比。他們說，薛嶽甚至頻頻征求中共意見，他該做些什麼，但中共方麵始終沒有明確回答。③結果蔣介石得以從容地把第一師調離了上海。