轉眼，陳省身已8歲了，其祖母唐氏送他進秀水縣一小學讀書。下課休息時，陳省身看見老師用戒尺打上課講話的學生手心，多的打了4下。陳省身看在眼裏、記在心裏，放學回家告訴祖母，還問：明天老師要打我的手心，怎麼辦？流露出一種害怕樣子。其祖母第二天就不讓陳省身上學。就這樣，陳省身隻讀了一天小學。
1920年，陳省身考入秀州中學。隻上過一天小學的他，硬是憑著自學的底子和後來的刻苦與好勝，不但學習跟了上去，而且是班裏的數學尖子。他的姑丈姚亮臣就在秀中教國文，表哥也在秀中念書。年幼聰慧的陳省身，深得姑丈的喜愛和照顧。陳省身在秀中讀到高小三年級，他已能做相當複雜的算術題，也看《封神榜》和《說唐全傳》調劑課餘生活。有時他還隨父親或舅父去南湖乘煙雨樓的畫舫。就在這風景如畫的南湖之濱，陳省身度過了他的童年。許多年以後，每當陳省身與人談起嘉興，回憶起那段童年時光，總是說，那是一生很幸福的一段。
1922年，陳省身隨全家從浙江嘉興來到天津。次年，進入扶輪中學（現天津鐵路一中）。校長顧讚庭很看重數學，親自教幾何，而且要求嚴格，陳省身往往應付自如，頗得校長的喜歡。陳省身在自述中曾說：“我數學學得比較好，當時我是他一個很得意的學生。他很看得起我。”此外，“扶輪”還有鄭次純、彭罕三等幾個很好的數學老師。
陳省身在學習中習慣自己主動去看書，而不是老師指定要看什麼參考書才去看。在這裏，陳省身已開始顯露出他廣泛的誌趣和鮮明的個性。陳省身承認：“我念數學不覺得困難，感到特別容易。我不是一個規規矩矩、老老實實念書的學生，我要有興趣，我就可以做做。分數好壞不大在乎。反正我的數學分數總很好，其他功課平平常常，但總能及格，比及格還好點。花點勁也可以很好，但我懶得花勁。我書看得很多，喜歡去圖書館看雜書，什麼書拿來就看。我喜歡看曆史、文學、掌故，亂七八糟的書都看。時常跑到書庫一呆就幾個鍾頭，這本看看，那本看看。數學書也看，但並不光看數學書。有些數學書，有些數學雜誌，有些數學家，我都知道。”
1926年，陳省身在扶輪校刊上發表了7篇文章。在《科學與宗教》中，他寫道：“科學的目的，在尋覓宇宙間已經進行的法則，描摹自然界一切現象，將結果歸納到極簡單極完全能證明的名詞。”在《一幾何定理之十六種證法》中他說：“幾何學在數學中占了極重要的位置；非但有誌研究科學的人，應當注意於它，就是普通的中學學生，也應該拿它作應有的常識。”此文表現出他對幾何訓練在開發智力中作用的較深理解，也顯露出與眾不同的邏輯推理能力。
在扶輪中學，陳省身跳了兩級。畢業前一年，父親陳寶楨的朋友錢寶琮到南開大學任教授。錢寶琮專治中國算學史，在這方麵很有創見。他勸陳省身直接考南開大學理科。但是考理科，要考解析幾何。“扶輪”是舊製中學，4年製，數學隻教三角、幾何，不教解析幾何，而且物理、化學也教得不夠。幸好陳省身有“自動的能力”，從南開中學借了課本自學。
那年夏天，陳省身的祖母去世，家裏亂得一塌糊塗。陳省身就在這亂糟糟中複習功課。結果他直接考取南開大學本科，不用念預科。錢寶琮來告訴他，數學考了第二。這年，陳省身15歲。
最美好的年華在南開
南開大學建立於1919年“五四運動”以後，校長是愛國教育家張伯苓。上世紀20年代中期，學校提出“理以強國、商以富國、文以治國”的教育方針，提倡通才教育，全校分文、理、商3個學院。那時，南開理學院有4個係：生物、物理、化學、數學，分別由李繼侗、饒樹人、邱宗嶽、薑立夫主持。那些係差不多都是“一人係”，除了他們4位外，教授很少。新生入學第一年不選係，就讀數學、物理、化學、國文、英文5門課。陳省身覺得物理似較切實際，所以入學時傾向於物理係。
1926年秋天，15歲的陳省身考入南開大學理學院。在這裏，陳省身遇上了中國現代幾何學的開山祖師、南開大學算學係主任——薑立夫教授。薑立夫1919年畢業於哈佛大學並獲博士學位，次年到南開大學並一手創辦南開算學係（當時是全國第二個數學係）。高徒遇名師，薑立夫循循善誘，將陳省身領入了數學王國。薑立夫非常器重這個年紀最小、天賦頗高的弟子。陳省身讀三年級的時候，已經做了薑立夫的助手，幫他改卷子。這樣每月他可以拿到10塊錢以改善生活。多年以後，陳省身早已是名揚天下的數學大師。當他追憶恩師薑立夫時說：“我從事於幾何，大都虧了我的大學老師薑立夫博士。”