起義後怎樣行動？黨中央的決定是：部隊立即南下，占領廣東，取得海口，以求得到國際援助，再舉行第二次北伐。中共中央8月4日致廣東省委的信中說到：“我們原定計劃是攻擊朱軍（指朱培德軍——編者注）後直奔東江。中央昨日會議議決令粵省委即刻以全力在東江接應。”
因此，起義軍沒有休息，沒有得到整頓，也來不及等候一些正在趕來的部隊到達（包括中央軍事政治學校武漢分校、第二方麵軍警衛團等），就在起義的第三天即8月3日，匆忙地從南昌啟程南下。
南下走哪一條路線？當時有兩種意見：
一種主張沿贛江南行，經過樟樹、吉安、贛州等比較富庶的地區，取道韶關，直下廣東。這是一條大路。另—種是周恩來等所主張的，那就是由贛東經尋烏直取東江。他們為什麼選擇這條路線？主要有兩個原因：第一，前一條雖是大路，卻也是敵軍重兵駐紮的地區。朱培德的第三軍在吉安。錢大鈞部在贛州。李濟深可利用粵漢路的方便，集中兵力在粵北與我決戰。張發奎餘部1萬多人也可能沿這條路尾追而來。定這條路，勢必會陷入腹背受敵的苦戰之中。而贛東敵軍的力量則較薄弱。第二，東江是廣東農民運動發達的地區，周恩來對這裏是很熟悉的。直取東江，可以較快地取得當地群眾的支持，使兵力得到補充；汕頭又是重要的海口，可以取得國際的接濟。周恩來等的這個主張得到多數人的支持。起義軍撤離南昌後，就取道這條路線南下。
出發前，周恩來會見了當地黨的負責人，向他們了解江西各縣農民運動發展的狀況，特別是由南昌到臨川（撫州）再經尋烏到廣東這一路上各縣農民運動的狀況、地方反動武裝的情況、宗族封建勢力的情況，以及沿途居民有多少、有什麼特殊的風俗習慣等等。他了解到，當時贛南的農民運動還沒有很好地發動起來。
8月3日，朱德帶領先遣隊作為南征第一縱隊出發了。他們號稱第九軍，實際上隻有一個營的兵力，大約三四百人。他們從進賢門出城，甩開兩條腿，朝著撫州方向進發。
隨後的兩天裏，南征的左翼縱隊司令蔡廷鍇率第十師為第二縱隊；葉挺率第十一軍為第三縱隊；賀龍率第二十軍和革命委員會各機關相繼出發。
起義部隊離開南昌的時候，有800多名青年男女加入了起義軍的隊伍，隨軍南下。更多的是民工，他們要為這支隊伍運送大量輜重。
擔任後衛掩護任務的第二十五師，於8月5日最後離開南昌。
起義軍踏上南征的道路後，意外的艱難和挫折便相繼而來。
據先頭部隊通報：沿途群眾紛紛逃避，給起義軍造成不少困難。這一方麵是因為群眾對大軍過境不明真相，害怕拉夫，但主要的還是聽了國民黨的反動宣傳，人心惶惶。雖然如此，由於起義軍所到之處，大都紀律嚴明，秋毫無犯，使敵人的謠言漸漸失去作用。當二十五師隨後衛跟進時，見沿途居民已陸續回來了。他們與群眾的一切接觸，都嚴格遵守上級的規定：凡大批購糧，用武漢紙幣；買少量糧米、油鹽和蔬菜即用銀元。
在長途行軍中，雖然天氣炎熱，身上又帶了大量子彈，並沒有人隨便拉夫，連必不可少的向導都是用錢雇來的，每天一塊銀元。給七十五團帶路的一個向導，一連送了他們3天，末了，叫他回去，他還不願意，說：“你們到哪裏，我就送到哪裏。”他們在撫州以南的一個小村子宿營的時候，有位老太太拉著一個年輕戰士的手說：“孩子，太冤枉你們了！謠言說你們不好，可是看了兩天，你們真是好隊伍，我活了這麼大年紀，從來沒有見過這樣好的隊伍！”
賀龍的二十軍出發較晚，大約是5日出發的。盡管賀龍對選中的撤離路線不十分讚成，但還是堅定地執行前委的決定。臨出發前，他還發布了一個詳細的文告，這是由賀龍的實際講話整理的，其中沒有一句空談，既生動又深刻，充滿了賀龍式的智慧和幽默，今天讀來仍新鮮如初，這也是賀龍始終具有號召力的原因之一。現將他的文告略記如下：這次南昌起義，實在是一種偉大的革命行動，是真正擁護總理的主義和政策的革命行動。因為我們國民革命軍第一次北伐，變成了蔣介石個人的勝利。