終於抵達了夢想已久的莫斯科，劉少奇的心情是激動難言的。雄偉的克裏姆林宮和圓頂大教堂，寬廣的紅場和筆直的街道，精神抖擻的紅軍戰士，淳樸可愛的普通市民。莫斯科一副欣欣向榮的景象，這些都給劉少奇留下了深刻的印象。
劉少奇等在莫斯科得到了俄國布爾什維克黨的關心和幫助，住進了共產國際的招待所。7月18日至8月6日，共產國際在莫斯科舉行第三次代表大會。大會期間劉少奇出席旁聽了大會，並和共產國際的領袖以及世界各國共產黨的代表們坐在一起討論世界革命的問題。劉少奇有幸見到了列寧，並聆聽了列寧的講話。列寧關於殖民地半殖民地人民的民主解放運動的精辟見解以及俄共建設社會主義的正確策略給劉少奇留下了深刻的印象。
列寧領導的第三國際為了幫助遠東各國培養無產階級革命力量，創辦了莫斯科東方大學。劉少奇和與他一起來到蘇聯的肖勁光、任弼時等都成為莫斯科東方大學的首批學員。1921年10月，莫斯科東方大學正式開學，劉少奇等搬入了學校的集體宿舍。學校為中國班開設了無產階級革命理論、政治經濟學、國際工人運動史和俄語補習等課程。授課的老師是俄國人，由於中國學生俄語的聽說能力不一，學校還特意請當時北京《晨報》駐莫斯科記者瞿秋白等擔任翻譯。
劉少奇他們在莫斯科東方大學的學習是井然有序的。每天早晨，跑步到操場列隊操練，然後再上課。課程安排得很緊，有聽課，聽報告，還有討論和自學，有時還參加一些重要的政治活動。晚上會去街上站崗放哨。在紀念十月革命勝利四周年的時候，劉少奇和同學們一起參加了蘇聯人民舉辦的盛大紀念活動。列寧為紀念這個偉大的節日在《真理報》上發表了一篇重要的文章。列寧在文章裏總結了十月革命獲得偉大成功的經驗，分析了革命勝利後所麵臨的巨大困難。在奪取政權的問題上他批駁了孟什維克和社會民主黨人的膽小和無能，回擊了他們對蘇維埃政權麵臨暫時困難的嘲笑和攻擊，告誡人們要鞏固勝利後的成果，鼓勵人們要懂得按客觀規律辦事，以及掌握靈活的革命鬥爭藝術。這些都給劉少奇留下了深刻的印象。
由於當時的蘇維埃俄國正處於經濟困難時期，從列寧到普通紅軍戰士都是每天吃一塊二兩多的黑麵包。莫斯科東方大學的學生享受同樣的待遇，每天分配到一塊黑麵包，每餐切下一塊，還不能多切，切多了下一餐便無飯可吃。中午食堂供應一碗加幾片土豆和蘿卜的湯，除此之外便沒有其他食物。肖勁光回憶當時的情況說：“像我們這樣十七八歲的小夥子，在正常情況下，上個四層樓算得了什麼，可那個時候上四層樓真困難呀，一步一步慢慢地往上挪，中間還得休息幾次。有時肚子餓得實在不是味道，就躺在床上等飯吃，越等越餓。”他們的衣服被子都是配發的，但都很單薄，冬天難以抵禦寒冷的天氣。盡管生活十分困難，但是劉少奇還是保持了無比樂觀的學習態度。他希望能夠在最短的時間裏學到最多的馬克思主義理論和俄國十月革命的新經驗，他閱讀了馬克思、列寧等革命導師的《國家與革命》、《資本論》、《反杜林論》等書籍。他認真地閱讀這些著作，有些書甚至是俄文原版。他借助字典進行閱讀，並反複思考。