出殯安葬儀式結束後，劉少奇和他的同學們登上嶽麓山，俯視省城長沙和奔騰洶湧的湘江，他心潮澎湃，感慨萬千。他在思考：國難當頭，革命領袖不幸隕落，救國之路何去何從？有為青年更應立誌報效祖國。他和同學們在一起大聲背誦孫中山悼念黃興、蔡鍔的挽詞“平生慷慨班都護，萬裏間關馬伏波”，抒發著心中的感慨。
不久，陸軍講武堂正式開學，劉少奇便終止了他在寧鄉中學的學業，去陸軍講武堂報到入學。學校的老師和同學們非常舍不得劉少奇離開，一方麵為他的中途輟學惋惜，另一方麵為他從軍的行為感到欽佩。
陸軍講武堂位於長沙市貢院大街省督軍署旁的又一村，堂長是湘軍中一位有資望的師長彭延衡，教員也是從省內和軍隊中選拔出的各類人才。5月1日正式舉行開學儀式，劉少奇和其他新學員一起身著嶄新的軍裝、頭戴軍帽彙集一堂聽湖南省督軍兼省長譚延闓訓話。譚延闓說：“民國成立，政變迭起，國基飄搖，欲求鞏固而振刷之，舍鐵血以外無良策”，鼓勵學員“以有用之光陰求無窮之學問”。
從一名普通中學學生變為湖南省最高軍事學府的學員，對劉少奇來說是一個重大轉折。他一直渴望能夠從軍報國，現在距離實現他的理想又進了一步。他很快便投入緊張的學習和軍事訓練中。陸軍講武堂距離寧鄉中學不遠。劉少奇還時常利用星期天和假日回寧鄉中學看望老師和同學，大家一起暢談理想和人生，研究時事。
講武堂的學製是一年半，半年學習文化知識，一年學習軍事課程。學習文化課對劉少奇來說不在話下，他之前已經打好了堅實的基礎；學習軍事課程時他雖然沒有其他學員那樣多年行軍打仗的經驗，但是由於勤學苦練，進展得也比較順暢。劉少奇剛在講武堂學習軍事課程一個多月，一場以湖南為中心戰場的南北戰爭爆發，湖南的局勢頓時緊張起來，長沙各個學校學生的學習無不受到影響，講武堂更是岌岌可危。
1917年8月，北洋軍政府段祺瑞的親信、原陸軍部次長傅良佐接替譚延闓擔任湖南督軍。10月，湘軍將領劉建藩、林修梅在衡陽起兵宣布獨立。傅良佐向南方宣戰。11月，南軍中以程潛、譚浩明為首的湘鄂桂聯軍進逼長沙，傅良佐逃出湖南。長沙在南北之戰中遭到一場浩劫。陸軍講武堂因為距離督軍署很近，也在戰亂中被打得稀爛。災禍來時，學員們四處逃散。劉少奇也在戰火中離開長沙，回到寧鄉炭子衝。書籍和行李在戰火中全都不知所終。這場突如其來的橫禍，打碎了劉少奇的從軍夢，但是他沒有灰心，開始重新思索前進的道路。