那是在清代嘉靖時期，這一天，文學家呂得勝正在和自己的兒子呂坤一同誦讀經書。作為一個聲名遠播的大賢，呂得勝教導起自己的兒子還是很輕鬆的。呂坤自小就跟著父親學習先賢思想，再加上天資聰穎，因此學得也很順利。隻是小小的呂坤發現，自己竟沒有可以和他交流的玩伴，同年紀的同伴們玩的唱的背的都是一些十分世俗的東西，和他平日深種在腦海裏的儒家道義一點兒邊也不沾。這種擔憂在呂坤成年後一直存在，尤其是在為人父後變得更重了。作為一個望子成龍的父親，他希望自己的孩子在問問題的時候，就能接受正確的教育。
當時流傳的兒歌，如“盤卻盤”、“東屋點燈西屋亮”之類，呂坤認為這些兒歌對兒童固然無害，但對品德修養以及後來的發展也沒有什麼好處。
如此下去，孩子學東西怎麼能快呢？如果整天念著這種沒有一丁點兒思想含量的熟語作樂，怕是也理解不了多少仁義之道。
想到這，呂坤坐不住了。他找到父親，把自己的擔憂對他說了一遍。呂得勝很支持兒子的想法，決定父子二人齊心協力編寫新的兒歌，用來代替舊的兒歌。《小兒語》就這樣問世了。
《小兒語》的語言淺近，人人易讀易懂。用四言、六言、雜言的語言形式，宣傳一些做人的道理，以及每個人應該具有的良好品德。此書問世以來，很受歡迎，比較普遍地流行於民間，所以影響很大。
《小兒語》的最大意義在於，能用十分俏皮輕鬆的語言讓孩子們提起興趣，因而更願意背誦。再加上其中的道理十分淺顯，即使是不能熟讀經書的父母也能看得懂，可以為孩子解惑。
最可貴的是，《小兒語》雖然是一本教化類書籍，但其中的很多語句，成年人也可以引以為戒。《小兒語》從不以聖人之德之類的高姿態教導人，而是用一種老友間互相調侃的口氣講出道理。比如：
手下奴仆，從容調理。他若有才，不服侍你。一不積財，二不結怨。睡也安然，走也方便。
不要和手下的奴仆或者是不入流的人一般見識。他們要是道德高尚、才高八鬥的人，也不會跑你這當奴婢了。財產適量就好，也不要與人結怨。這樣一來，睡得也安心，身後事也好安排。
在一個人的成長時期裏，童年的經曆和所見所聞可以說是最重要的，因為那個時候的人模仿能力都很強，思想辨別力卻很差。孩子們則會從身邊的一切，包括父母、鄰居、玩伴身上注意到某些特質，然後不加分辨地模仿，慢慢形成了習慣。
但是人無完人，孩子們總會無意中樹立或者學習到一些缺點。在那個年紀，與他們大談孔孟之道是不實際的，尚未入世的他們也不會明白功名利祿以及淡泊明誌的區別。
《小兒語》的偉大之處還在於，它不需多麼沉重的大道理，就能使人安然地接受其中所說，輕鬆的語言風格裏帶著一種孩子間鬥氣爭辯的慧黠。雖然語言平實，但其中講的句句都不離佛道儒三家的思想主旨。比如《小兒語》的六言絕句詩裏有一句：
兒小任情嬌慣，大來負了親心。
費盡千辛萬苦，分明養個仇人。世間第一好事，莫如救難憐貧。人若不遭天禍，舍施能費幾文？
《小兒語》是以鮮活隨意的語言形式，講述了諸多做人的道理，用來幫助孩子培養良好的品德。它濃縮了大量文史知識和道德理論，內容豐富，淺顯易懂，作為中華民族優秀文化的經典而傳承至今。
學術，並不是越晦澀難懂、越故作高深就越是有價值。真正的好學術著作，就該像《小兒語》這樣，用平和的語言將大道理深入淺出地講出來，使人們都能心領神會。不能被發揚傳播的學說就是沒價值的。從這一點上來說，《小兒語》要比《春秋》、《論語》等著作，更有效地弘揚了儒家思想，完成了孔子禮教於天下的夙願。