1927年8月1日，中國共產黨組織了南昌起義，打響了武裝反抗國民黨反動派的第一槍。8月7日，中共中央在漢口召開緊急會議，徹底清算了陳獨秀的右傾機會主義路線。在總結大革命失敗的教訓時，黨痛感失去對武裝鬥爭領導權的危害，倍覺軍事人才缺乏。因此，為了適應武裝鬥爭的需要，黨將一批優秀人才送往蘇聯。
蕭勁光正是懷著這樣的心情，受黨的委派，第二次踏上異國的土地，來到十月革命的策源地--列寧格勒，進了托爾馬喬夫紅軍軍政學院。這是一所以在保衛列寧格勒戰役中英勇犧牲的紅軍政治委員托爾馬喬夫的名字命名，培養紅軍高級軍政人才的學校。和蕭勁光同班的中國同學有劉明先、劉伯堅、傅鍾、曾湧泉、朱務善、伍止戈、李特，還有蔣經國。蕭勁光做了第一任的黨支部書記。
在托爾馬喬夫紅軍軍政學院，他們支部在一段時間的組織活動是傳達共產國際對中國革命失敗的經驗教訓的有關決議。他對共產國際決議中提出的關於中國革命策略的3條主要路線極感興趣。第一條路線是直截了當地變成孟什維克的路線，就是在一切發展階段上都毫無保留地與資產階級建立統一戰線，為此要做出任何讓步，如製止和反對土地革命，製止工人運動等。第二條路線是托洛茨基“左”的路線，在原則上否定同資產階級達成協議和結盟的可能性，而不管革命處於什麼發展階段。第三條路線是列寧主義路線，就是在一定的發展階段和一定條件下，必須與資產階級達成協議，但當條件發生變化，階級力量重新改組的時候，必須中斷這種合作，並要同這個盟友作鬥爭。這些理論上的總結使蕭勁光茅塞頓開。過去，他隻憑著對黨的事業無限的忠誠，黨讓做什麼就做什麼，而對中國革命的這些理論問題卻很少關注。他潛心學習，認真思考，漸漸悟出了一些道理。他聯想到大革命之初，中國共產黨執行了在一定階段必須與資產階級聯合的正確路線，使革命獲得了澎湃之勢。然而當形勢發生變化時，以陳獨秀為首的黨中央沒有及時中斷這種合作，反而以妥協投降去維護這種合作。結果資產階級徹底叛變，導致了大革命失敗。他在實踐中取得的經驗得到了理論的升華。
人們在失敗的痛苦中得到的東西，往往比在勝利的歡樂中得到的要深刻得多。
在托爾馬喬夫學院，蕭勁光讀了斯大林關於中國革命的論著。當他讀到“在中國，是武裝的革命反對武裝的反革命。這是中國革命的特點和優點之一”這一著名論斷時，心情是那樣的激動。武裝，武裝，中國革命失敗之最慘痛的教訓，難道不正是在於此嗎?
托爾馬喬夫學院不僅給了他覺悟，也給了他力量。他如饑似渴地學習。學校60%的課程是政治課，40%是軍事課。他一絲不苟地學習，最使他著迷的還是軍事。這不僅是他在第一次到蘇聯時萌發的理想的延續，更重要構是，他在失敗的痛苦中認識到，離開了軍事，就救不了中國。蕭勁光學習了軍事理論，從步兵操典、戰鬥條令，到戰術學、戰役學，從指揮學到軍隊政治工作，他一一涉足。他認真做每一個沙盤作業、戰鬥想法，他認真參加每一個實戰演習，他學習了蘇聯紅軍若幹個優秀的戰例，他用這些理論知識判析了自己在北伐戰爭中參加的諸戰役、戰鬥，他軍事理論的根底逐漸豐厚起來。
蕭勁光不僅對步兵感興趣，而且對騎兵發生了濃厚的興趣。在托爾馬喬夫學院，蕭勁光聽了蘇聯著名的騎兵軍軍長布瓊尼的演講。布瓊尼指揮紅軍騎兵旅在頓河粉碎弗蘭格爾的軍隊，擊潰鄧尼金匪徒，在蘇聯國內戰爭中所創立的光輝業績使他折服，騎兵那縱橫馳騁、所向無敵的氣勢使他心馳神往。布瓊尼的騎兵所創立的以突襲結合強大火力和機動性的新的戰術、戰役法，給他以啟示。他還曾登上巡洋艦，觀看過波羅的海蘇聯海軍的軍事演習，第一次接觸了海軍這一軍種，他對海軍又發生了濃厚的興趣。
1928年夏天，中國共產黨第六次代表大會在莫斯科舉行。會後，在托爾馬喬夫，蕭勁光和他的同學們聽了“六大”新選出的黨中央總書記向忠發的講話。出國近1年了，他們時刻關注著國內的情況，也斷斷續續聽到些國內的消息，但都不像這次這樣具體。聽到蔣介石、汪精衛瘋狂屠殺共產黨人和革命群眾，2。6萬餘人犧牲、6000多人坐牢的消息，他們憤慨之極;聽到黨的“八七”會議確定了武裝起義，建立紅軍進行武裝鬥爭的方針，確定軍事工作的重要地位時，他們倍受鼓舞。他們也得知黨內又發生了以瞿秋白為代表的左傾盲動主義，這次大會停止了這一錯誤，並明確指出，中國革命的性質乃是資產階級民主革命，中國革命正處在高潮與低潮之間，要準備革命力量，迎接革命高潮。