從識字到上正規小學，小繼愈也更換過幾所學校，但真正完成小學學業的，卻是在離家100公裏外的省城濟南，當時的“省立第一模範小學”（現更名為大明湖小學）。
任繼愈就讀的山東省立第一模範小學，采用的是級任製，老師從低年級開始接收學生，一直帶到畢業。學校分高小、初小兩個部。
在讀初小時，教語文的級任老師叫曹景黃，山東新泰人。曹老師有一次上《論語》課，講到“臧文仲居蔡，山節藻棁”，曹老師說：“蔡是烏龜，古人以龜為神物，近人以烏龜為貶義，罵人的話。我的村莊取名蔡家莊，是烏龜莊。”任繼愈和他的同學都笑了。從此，他不僅記得曹老師是新泰人，還記得他家鄉的村莊名。
小繼愈是幸運的，正是這個曹老師，為他今後的古漢語閱讀和運用打下了堅實的基礎，並對他的成長產生了深遠影響。
曹老師教習字課，用元書紙寫毛筆字。作文課則要當堂寫作，下一周批改後發還。作文卷子按照成績順序發給學生，成績好的學生放在前麵，差的靠後。每發一回作文卷子，就是一次作文講評。作文用文言文寫作，好的作文，曹老師會指出好在哪裏。常見的錯字，或用詞不當，曹老師就結合作文向全班講解。作文課是寫作練習，評作文的課則是語文修辭的練習。有一次，曹老師讓大家以清明節植樹為題寫一篇文章，小繼愈文中一段“吾鄉多樹，每值夏日，濃蔭匝地——以待行人憩焉”深得曹老師讚賞，認為他的“焉”字用得非常好，有文言文的語感。這讓小繼愈非常驕傲。此後，他在寫作上的興趣更加濃厚了。
小繼愈喜歡上曹老師的語文課，因為曹老師講課繪聲繪色，幽默風趣，不是照本宣科地朗讀課本講義，而是善於把深奧的道理，變成一下子就能讓小孩子弄懂的東西，深入到學生腦海中去。哪怕是一件非常枯燥的事，曹老師似乎也能夠講出淺顯易懂的道理來，這讓小繼愈覺得很有意思，聽起來欲罷不能。在老師的帶動下，他很早就讀了諸如四書五經、《古文觀止》以及《紅樓夢》、《三國演義》等古典小說，打下紮實的文化底蘊，這使得他在後來的工作、生活以及研究方麵，都能融會貫通，信手拈來，許多篇章甚至出口成誦。
曹老師的教學方法很對小繼愈的“胃口”，他不會局限於課本的內容本身，往往會從中引申開去，帶出更多的知識，這很符合小繼愈尋根問底的個性。比如講到《論語》中的“巧言令色，鮮仁矣”時，曹老師結合課文，舉了一些社會上流行的巴結上司，拍有權有勢人物馬屁的可笑舉動的例子，指出那種說假話、吹吹拍拍、風吹兩邊倒的作風，是最可恥的。這給學生們留下了很深刻的印象，常常引得哄堂大笑。