正如前文提到的，當時，黨所掌握和影響的軍隊主要就是集中在張發奎的國民革命軍第二方麵軍（包括第四軍、第十一軍、第二十軍）中。第十一軍二十四師師長是葉挺，第二十軍軍長是賀龍。第四軍二十五師是以葉挺獨立團的骨幹擴編而成的，葉挺曾任該師副師長，其中第七十三團團長周士第和第七十五團部分團、營幹部，都是共產黨員，該師駐南潯線馬回嶺地區，有兵力3000人。準備參加南昌起義的還有蔡廷鍇率領的第十一軍第十師4500人。7月間，他們打著執行武漢政府“東征討蔣”命令的旗號，由武漢、鄂東一帶，已陸續向長江下遊移動，分駐江西九江和九江、南昌之間。此外，共產黨員朱德領導的第三軍軍官教育團，在南昌培養了大批軍事幹部和工農運動骨幹。雲集在這個地區的革命武裝力量達2萬人以上。其中葉挺、賀龍率領的軍隊，是這次起義的主力。
當時，國民黨在南昌的兵力比較空虛，隻有朱培德的第五方麵軍第三軍的2個團、第九軍的2個團，程潛的第六軍1個團，以及江西省政府警衛部隊和憲兵營，共約6000多人。在這一地區起義是有成功把握的。
據曾是中央農民運動講習所（武漢處）學員的塗國林回憶：他們乘坐一艘軍船從武漢秘密來到九江，“在九江上岸後，當晚即宿勃蘭地教堂（現柴桑小學），第二天移駐聖約翰中學（現171醫院）。九江滿街滿巷都是我們的部隊，‘同誌’、‘同誌’之聲充滿空間，已經好幾天接觸不到這種空氣，現在聽起來格外親熱。”這種革命氣氛曾為“紅都”武漢所獨有，此時已轉到九江地區。革命的中樞似乎從湖北轉到了江西。
7月19日，中共中央軍事部的聶榮臻、賀昌、顏昌頤受指派來到九江，他們按照周恩來的指示：“先到九江去，通知我們的同誌，叫他們了解中央的意圖，做好起義的準備。但什麼時候發動，要聽中央的命令。”聶榮臻回憶“：我到九江，第一個通知葉挺”，並住在葉挺的司令部。聶榮臻和葉挺是在莫斯科學軍事時的同學。
當蔣介石與汪精衛先後叛變革命的時候，葉挺正任國民革命軍第十一軍第二十四師師長，具有將軍的軍銜。大革命時期的將軍每月有幾百塊大洋的收入，因此，此時的葉挺生活優裕。他本人又是北伐名將，戰功卓著，為各方矚目。然而葉挺卻毅然放棄這一切，投身於革命事業之中。
國民黨方麵並非沒有爭取葉挺等將領的打算，張發奎明確知道葉挺是中共黨員，但他與葉挺之間私交甚好，且認為可以將葉挺爭取過來，最低限度也可以讓葉挺離開部隊。
但是，這個時候的葉挺已經對國民黨徹底失望了，他後來在《南昌暴動至潮汕的失敗》一文中寫道：北伐軍到兩湖後，工農運動有突然的發展，才使一切反動勢力（富有階級地主軍官）結合而向工農進攻，尤以革命政府及軍隊內十分之九的軍官為甚。在武漢政府未進軍河南時，我們軍隊同誌的集會已提及這個嚴重的問題，但黨對此並沒有一個解決的方法。當時武漢政府有保護軍人財產的命令，我們的黨已由此逐漸取一個退讓的政策……湖南的工農及我們的同誌，已決心進攻武漢，消滅唐生智的勢力，當時我們的黨仍主退讓並製止勿動。
這說明葉挺在局勢日益緊張並惡化的局麵下，仍然保持清醒的頭腦及革命的警惕性，並隨時為反擊做好準備。他繼續寫道：至七月二十號左右，我們的軍隊因討蔣的任務，集中九江者，約六團，張發奎已實行分共的政策，令我們著名的同誌退出共產黨。此時我們的負責同誌，因武漢形勢險惡，多到九江。由譚平山召集一個談話會，參加的有鄧中夏、李立三、聶榮臻、葉挺等，多主張令我即刻聯合賀龍的軍隊，向武漢政府示威，作一個革命的榜樣。
而在7月中旬前後，葉挺已經將二十四師師部設在九江城東16號，這裏是原聖約翰中學校長高達德的公寓。這是一棟西式回廊結構的二層樓房，青磚紅瓦，四坡頂。因為是暑假期間，全師5500多官兵都駐紮在聖約翰中學及周邊地區。