1921年7月，中國共產黨在上海成立了。劉少奇得知這一消息後，非常激動。東方大學開學後，他一直在想如何才能加入共產黨。他主動與負責思想工作的政治教導員談心，請教怎麼樣才能做一個共產黨員。另一方麵，他認真研讀《共產黨宣言》，反複閱讀列寧所寫的著作。經過反複的思考，他毅然決定加入共產黨，願為人類的解放事業奉獻出自己的生命。
1921年的冬天，劉少奇在莫斯科東方大學轉為中國共產黨黨員，莫斯科東方大學的中國班建立了中國共產黨的旅俄支部，劉少奇是支部的負責人之一。後來他曾回憶起自己入黨的過程，他說：“有這麼一次，那時我還沒有參加共產黨，我在考慮入不入黨的問題。當時我把《共產黨宣言》看了又看，看了好幾遍……從這本書中，我了解共產黨是幹什麼的，是怎樣的一個黨，我準不準備獻身與這個黨所從事的事業，經過一段時間的深思熟慮，最後決定參加共產黨，同時也準備獻身於黨的事業。人的命都不要了，其他的就好說了。”劉少奇是這樣說的，也是這樣做的。他自從加入中國共產黨，就把自己的一生都獻給了黨的偉大事業。
1922年春，剛剛成立的中國共產黨需要一批開展革命活動的力量，劉少奇被通知提前回國工作。接到消息，他感到激動萬分。為了尋求救國救民的真理，他曆經千辛萬苦來到莫斯科學到了馬克思主義的真理，現在他要把自己學到的東西帶回自己的祖國，為祖國和人民奉獻自己的一份力量。就這樣，劉少奇和他的幾個夥伴乘坐著列車沿著一年前來到蘇俄時的路線，從莫斯科經過赤塔到達海參崴，乘坐輪船回到了日思夜想的祖國。
從此以後，年輕的劉少奇把自己畢生的精力都奉獻給了中國的解放事業，矢誌不移地投入到中國共產黨領導人民進行的爭取民族獨立和祖國富強的偉大革命鬥爭中。