麵對國民黨的血腥屠殺，中國共產黨奮起反擊，但是，在最初的時候，曾經選錯了合作對象。張發奎是北伐戰爭的風雲人物。北伐期間，他率部初戰醴陵，續戰平江，隨之撲向荊楚門戶汀泗橋、賀勝橋，會攻武昌，戰江西馬回嶺，進軍河南，立下了赫赫戰功，是著名的國民黨左派將領。
正因如此，自北伐戰爭開始，張發奎就與共產黨人有過密切的合作。他的部隊是共產黨員最集中的部隊。先後在他部隊任職的著名共產黨人有廖乾吾、葉挺、曹淵、蔣先雲、許繼慎、周士第、郭沫若、惲代英、高語罕、張雲逸、盧德銘以及賀龍、葉劍英等。到北伐後期，張發奎任第二方麵軍總指揮後，在張發奎的軍隊中有2500至3000名共產黨員。
其中，葉挺第二十四師、賀龍第二十軍就是黨發動南昌起義的基本力量；盧德銘第二方麵軍警衛團是發動秋收起義的主力；葉劍英第二方麵軍教導團是發動廣州起義的主力。
對於張發奎“很紅”，國民黨黨內早有微言。據李宗仁回憶，當時他曾勸張要提防共產黨，李對張說：我說你們第四軍裏，共產黨最多，你如對他們不加約束，將來軍隊會不聽你指揮的。張說葉挺和他是廣東北江的小同鄉，從小便在一起，可以說是如兄如弟，以他和葉的“私人關係”，他認為葉挺絕不會和他為難的。我說：“共產黨還談什麼私人關係，他們隻知道第三國際的命令，你別做夢了。”張說：“不會的，絕不會的。”
“四一二”政變之後，張發奎主張立即出兵“東征討蔣”；二次北伐回到武漢後，他也表示“蔣逆為吾人目前之敵人，非出師討伐不可”。甚至在“分共”之後，張發奎仍大批接納共產黨人，如有人後來回憶“：張發奎將軍由汪精衛宣布‘國共和平分家’後，不但不將我們黨的同誌‘清除’，反而收容被國民黨驅逐出來的同誌。……我想起在武漢時流行的那一段傳說：蔣介石屠殺共產黨，朱培德遣送共產黨，張發奎收容共產黨。”汪精衛也說：“從武漢決定製裁共產黨以後，武漢的共產黨徒全到四軍十一軍二十軍去了，張總指揮因為中央擴大會議決定並已經明令保護共產黨的安全，也無法駁而不要。及至他們到四軍十一軍二十軍工作，張總指揮又以為他們是幫助國民革命，所以優容他們，用惲代英做總指揮部的總參謀長，高語罕做秘書長。”
因此，在汪精衛“分共”之初，黨對張發奎還是抱有一定希望的。
7月中旬，“中共中央確定組織民眾武裝起義的新政策，著手製訂湘、鄂、粵、贛四省秋收起義的計劃。同時決定以中共所掌握和影響的部分北伐軍為基本力量，聯合武漢國民政府第二方麵軍總指揮張發奎，重返廣東，實行土地革命，建立新的革命根據地，舉行第二次北伐”。
但隨著局勢的進一步變化，張發奎開始動搖了。“七一五”政變之前，汪精衛加緊策劃“分共”，“找第四軍軍長張發奎商量，張發奎怕控製不了軍隊，有些猶豫。汪精衛就拿出陳獨秀泄露的共產國際的指示，添油加醋地說：‘共產黨要消滅國民黨，要把軍權抓到手上，跟他們合作不下去了，還是分開的好。’”