朱德在南昌起義中發揮了特殊的作用。周恩來曾評價說，朱德在南昌起義中所起的作用，“是一個很好的參謀和向導”。
1926年1月間，朱德遵照中共中央軍委的指示，前往江西南昌，轉到國民革命軍第三軍去工作。
那時，駐紮在南昌、九江、吉安、進賢一帶的是國民革命軍第三軍朱培德部。第三軍是雲南部隊。這年1月初召開的北伐軍軍務善後會議後，第三軍編為北伐軍總預備隊（後改為第五方麵軍）。朱德同這支滇軍部隊的高級軍官們有著很深的曆史關係。總預備隊總指揮朱培德和師長王均、金漢鼎都是朱德在雲南陸軍講武堂的同班同學，以後又長期在滇軍共事，交誼很深。朱德還有一些舊部和老同事也在這支部隊裏。
因此，他一到南昌，朱培德立刻委任他擔任第三軍軍官教育團團長。不久，又委任他為第五方麵軍總參議。
在朱德的主持下，軍官教育團的組建工作很快就緒，地址設在永和門內的原江西陸軍講武堂。學員分兩部分：大部分是朱培德部的下級軍官，編為第一、二營，共700餘人；還有一個第三營，是學兵營，主要招收省內的中學生，也有一部分從上海來的北方宣傳隊隊員，共400餘人。教育團內的中下級軍官和教官，除從第三軍抽調外，還有隨朱德來南昌的原二十軍考察團成員以及原來在廣州的第三軍軍事政治訓練班的畢業生。他們在任職前，先經過測驗，再到廣場逐個考試軍事實地指揮的能力，然後按照他們的實際成績，分別委任連、排級職務。這種量才任用的做法，在當時軍隊中是少見的。
軍官教育團的教育內容，包括軍事和政治兩個方麵。朱德十分重視提高學員政治思想覺悟的教育。政治方麵的課程，有孫中山在國民黨“一大”重新解釋過的三民主義，還有中國革命和世界革命問題、工人問題、農民問題和社會問題等。他們經常請國民革命軍總政治部副主任郭沫若和共產黨人方誌敏、邵式平、曾天宇等講課。在軍事教育和訓練方麵，要求也十分嚴格。
軍官教育團名義上雖然隸屬於第三軍，但在每個連隊都秘密建立了共產黨的小組，有的連黨員達到學員的三分之一，參謀長陳奇涵擔任黨支部書記。一般工作人員也經常舉行生活檢討會，開展批評和自我批評。當時江西的工農運動正在高漲，不少工人運動和農民運動的幹部參加了教育團舉辦的短期訓練班。整個教育團內呈現出濃重的革命氣氛。
軍官教育團是從1927年1月開始接收學員的。3月5日補行開學典禮，當時駐在南昌的蔣介石也前來參加。
那時候，由於北伐軍在兩湖、江西、浙江、安徽等省的勝利進展，擔任國民革命軍總司令的蔣介石的政治聲望隨之大大提高，實力也有很大擴充。他覺得自己羽翼已經豐滿，便公開暴露出反對共產黨、分裂國民黨中央、準備實行個人獨裁的麵目來。就在蔣介石參加開學典禮的第二天，駐江西的新編第一師在蔣介石指使下，殺害了江西省總工會副委員長、贛州總工會委員長陳讚賢。3月16日，蔣介石離開南昌時，強行解散原來由國民黨左派掌握的國民黨南昌市黨部和江西省學聯等民眾團體。17日，國民黨九江市黨部、總工會又遭到總司令部特務處處長楊虎組織的一夥流氓歹徒的圍攻，在市黨部打死3人，在總工會打死1人。
這股反動逆流的襲來，激起江西各界民眾的極大憤慨，南昌工人罷工3天表示抗議。3月18日，南昌市各界群眾數萬人在大校場召開追悼陳讚賢烈士大會，會後舉行示威遊行，要求江西省政府主席李烈鈞主持公道，嚴懲殺人凶手。朱德帶領軍官教育團參加了遊行，他對教育團的學員們說：“反動派已屠殺我們的同誌了，我們要準備出擊。”30日，軍官教育團配合南昌的工人糾察隊，收繳了蔣介石留駐在牛行車站的憲兵團的槍支。
4月7日，朱培德就任江西省政府主席。9日，任命朱德為南昌市公安局長。朱德在全局幹警大會上告誡大家，要切實負起責任，保護民眾，盡快恢複南昌的秩序。