1913年7月，劉少奇來到寧鄉縣城報考玉潭高等小學堂。經過入學考試，劉少奇順利考取了玉潭學校。玉潭學校是當地負有盛名的新式學校。辛亥革命後，全國各地包括湖南都興起了以傳播西方自然科學和社會科學為主要內容的“新學”。玉潭學校就是這種革新進步的產物。
寧鄉縣城被稱為玉潭鎮。玉潭學校的前身是玉潭書院，始建於明朝嘉靖年間，後來經過多次修複和改建。1902年清廷宣布廢除科舉時，改名為玉潭高等小學堂。院內收藏有各類古籍和圖書好幾萬冊，是寧鄉縣名家薈萃之地。新改製的玉潭學校，開設有國文、算術、史地、物理、英語、體操、音樂、圖畫、手工等課程。教課的老師一般都是從湖南高等師範學校畢業，還有一些是清朝末年的秀才，大部分都具有舊學和西學的豐富知識，有些老師受維新改革的影響，思想都趨於進步。劉少奇對玉潭學校優美的學習環境、博學的老師非常滿意，決心努力學習，掌握更多的知識。
剛進學校時，劉少奇因為有一些土氣被一些同學稱為“鄉裏伢子”。劉少奇對這種帶有歧視意味的稱呼卻不以為然，一門心思認真讀書學習。不久，劉少奇就憑借自己優秀的學習成績令那些自認為是城裏伢子的同學甘拜下風。劉少奇對各門功課都很感興趣，特別關心時事政治，喜歡新鮮的自然科學和社會科學知識。每當上曆史課和地理課，老師講解世界和中國的地域、形勢時，講述中國曆史和世界曆史時，劉少奇都心潮起伏，他在思考：為什麼中國這樣一個具有幾千年文明曆史的泱泱大國會受人欺淩？為什麼西方列強國家屢屢來中國割占土地、索要賠款？今後的世界和中國會如何變化發展？為了尋找答案，劉少奇流連於圖書室和報刊室，仔細看書讀報。《申報》、《大公報》、《國民日報》這些報紙是劉少奇最喜歡閱讀的，他從中尋找著各種信息，汲取知識和營養。當時，袁世凱鎮壓二次革命、第一次世界大戰爆發、中日關係等等都是劉少奇感興趣的問題。據玉潭學校當時的校長黃錫類回憶，劉少奇上課時非常專心，接受能力很強，能夠很快記住並理解學習內容，他平時話不多，但是回答問題有條不紊。他喜歡鑽研問題，而且抓住問題不放，直到弄懂為止。劉少奇善於學習，善於思考。他的國文成績是全班最好的，他寫的作文言簡意賅，時常被國文老師作為範文供大家學習。
那時的劉少奇還表現出不迷信，不盲從，遇事不慌張，有自己的主見等思想特點。有一段時間，尊孔複古運動興起。玉潭學校的國文課中又恢複了尊孔讀經的內容，事實上這是統治者為袁世凱複辟帝製製造輿論。學校隔壁的孔廟也熱鬧起來，大搞尊孔祭孔活動，很多人被卷入尊孔的逆流之中。同時，也有一些思想激進的學生拒絕讀“四書五經”。麵對兩種截然對立的態度，劉少奇有自己的看法：一方麵，他反對對孔子頂禮膜拜，另一方麵他也不反對學習“四書五經”。他認為，對孔子、孟子等幾位思想家的言論應該區別對待，他們關於為學、立誌和做人的見解，可以作為激勵年輕人進步的借鑒；他們關於“民為貴”、“為政以德”的觀點，可以為當政者學習；對於孔孟一些反對社會進步、輕視百姓的思想，則可以摒棄。
劉少奇不信神佛，表現了反迷信的思想。當時在玉潭學校對麵小西門的香山古寺裏供奉著很多神佛，時常有善男信女前去燒香。劉少奇時常去古寺內觀賞和憑吊古跡，但是他從不加入到這些求神拜佛的行列中去。劉少奇的母親是信神的，每逢初一、十五便在家中燒香，時常為全家、子女祈禱。劉少奇不主張迷信神靈，但是對母親的做法也表示理解。進入玉潭學校讀書後，劉少奇更加不相信神佛能夠解決問題。一年暑假，家鄉幹旱無雨，鄉親們非常焦急。一些巫婆神漢便趁機搞起求神、許願的把戲。一所荒廢已久的鄭太公廟一時之間熱鬧起來。劉少奇聽聞後，叫上一些同學去阻止這種把戲。劉少奇問帶頭的人：“鄭太公真的能夠有求必應嗎？”帶頭人回答：“隻要心誠，神明感動，必有雨下。”劉少奇說：“假如鄭太公真的有神通，為什麼前年刮大風，廟頂被掀掉半邊？廟裏的梁柱子也被螞蟻蛀空了。泥菩薩過河自身難保，它怎麼能夠救窮人的禾苗？”帶頭人無言以對。
劉少奇又提出在抗旱之時還去求神，既浪費錢財，又耽誤時間，不如趕緊去找水。經過劉少奇的一番勸說，鄉親們認識到抗旱還要靠自己，加緊車水、擔水來抗旱。劉少奇在玉潭學校讀書時十分團結同學，關心他人。當時與劉少奇比較要好的同學賀執圭與劉少奇同在一個班，同睡一張鋪。劉少奇把賀執圭當作小弟弟來看待，每學期都讓賀執圭睡下鋪，自己爬高去睡上鋪。賀執圭還回憶說劉少奇與同學相處非常融洽。他個子比較高，班上排隊時，他排在第二位，遇到活動時總是挺身而出，把活動組織安排好。同學中有爭執時，他也總是支持有理的一方，批評理虧的一方。他還十分愛好體育運動，是班上的主力球員之一，時常參加打籃球、踢足球的活動。在玉潭學校學習的劉少奇各方麵表現都非常優秀，已經具備勤奮、聰穎、機智、正直等美德。