曾國藩十六歲時，父親讓他參加長沙府舉行的童生府試，他考取了第七名，是年為道光六年（1826年）。曾麟書看到兒子小小年紀竟有如此的才華，再看看自己，連考多年秀才未中，如果讓兒子跟著自己讀書，怕誤了他的學業，不如給孩子另請名師。於是，曾麟書跟父親商量找個教書先生，他們聽說衡陽唐氏家塾有個汪覺庵老先生，八股文教得極好，可以送去就學。於是，曾國藩在十九歲時赴衡陽讀書。天資聰穎的曾國藩在衡陽隻讀了一年書就學完了該校的課程，於是他又回到本縣的漣濱書院就讀。
經過學習，隨著年齡增長，曾國藩漸知自己過去各方麵的幼稚，許多想法也不對，必須從新做起、奮勉不懈，才能真正有所長進。為此，在漣濱書院讀書期間，曾國藩特為自己取“滌生”為名號，即有洗滌過去、從新做人之意。
道光十三年（1833年），曾國藩二十三歲，其父於前一年考取了秀才，便也讓曾國藩參加秀才考試。曾國藩一舉成功，中了秀才。這一年，家人為他與訂婚已九年的歐陽小姐成親，二十三歲中了秀才才結婚，這在當時是突出的晚婚了，也見得曾家對曾國藩的讀書和功名要求極嚴格，沒有功名不能成親。
考上秀才後，曾國藩於1834年到長沙嶽麓書院學習。清代嶽麓書院，是湖南的最高學府，藏書宏富，名人輩出。嶽麓書院在湖南全省範圍內招生，其山長（相當於校長）、主講是名聲很高的歐陽厚鈞，他是嘉慶四年的進士，曾任郎中、禦史等官，以母老告歸主講該書院。他為書院主講長達二十七年之久，前後教出當時知名的學生三千餘人，因有“弟子三千”之稱。在校學生須按月課試，月課分為官課、館課兩種。官課由學政、長沙知府等高級地方官出題，有時甚至由巡撫親自出題。由此可見，嶽麓書院對學生的要求是非常嚴格的，官府對嶽麓書院也相當重視。據曾國藩的年譜說，當時曾國藩以“能詩文，名噪甚，試輒第一”。
曾國藩在該校係統地學習了儒家著述，掌握了儒家思想的精髓。
曾國藩在嶽麓書院學習不滿一年時，於1834年秋天參加了省城鄉試，得中舉人。兩年連中兩級，成了“舉人老爺”，這對曾家來說，已是破天荒了。全家喜慶尚未結束，曾國藩便打起行裝，前往北京，準備參加來年的進士會試。
第二年，曾國藩就到北京參加會試，但是沒有成功。可巧，道光十六年（1836年）適逢皇太後六十大壽，照例增加鄉試、會試的恩科考試一次。曾國藩為了節省路費、減少舟車勞頓，決定在北京等一年。於是，曾國藩寫信回家說，湖南至北京，千裏迢迢，往返一次太困難，路費也太多，不如留住北京，等著來年的恩科會試。家裏回信勉勵他不要灰心，也別太節省了，多多保重，好好準備。於是他住在北京的“長沙會館”，那裏住著不少湖南的舉子，花銷不大。
在北京等候考試的這一年裏，曾國藩除準備功課之外，還目睹了京華文物名勝，這使他大開了眼界，不再是蟄居湖南山鄉的寒門儒生了。就在這段時間裏，他喜歡上了號稱“唐宋八大家”之一的韓愈的文章，從此終生不變。年譜說他“留京師讀書，研窮經史，尤好昌黎韓氏之文，慨然思躡而從之，治古：艾詞自此始”。曾國藩的文章寫得好，不僅文詞華麗，對仗工整，而且有雄奇之氣，讀來有如長江大河，滔滔而下。雖然他後來愛好桐城派文章，但作文的基礎恐怕至少在此時就奠定了。再一年，1836年的恩科考試，曾國藩又名落孫山。一個鄉下小財主的兒子，在京師讀了一年書，此時已是囊空如洗，隻好打道回府。就在回家的路上，他到了金陵這個日後與他的政治、軍事生涯有重大關係的城市。
在金陵，他在書肆裏見到《二十三史》，對它愛不釋手，但是曾國藩沒有錢，就向一位在江蘇任曹的同鄉借，又賣掉了自己的衣服，終於擁有了一套自己的《二十三史》。回到家裏，父親問明原因，不僅沒有責備他，反而鼓勵他說：“你借錢典衣買書，這不是壞事，我隻望你細心研讀，能把此書認真圈點一遍，就算對得住我了！”曾國藩牢記此語。自此清晨起床，一直讀書到夜半，整整一年足不出戶。曾國藩研究曆史的興趣就是在那時培養起來的。
又過了一年，即道光十八年（公元1838年），又是舉子們進京會試的年頭。曾國藩要上京城參加考試，可是家裏卻拿不出足夠的路費，隻好向同族和親戚家借貸。曾國藩攜錢三十二緡上路，到了京師，隻剩三緡。《曾國藩年譜》的作者感歎道：“時公車寒苦者，無以逾公矣！”
三月春榜發布，曾國藩取得禮部會試第三十八名進士。接著又連續進行殿試、朝考，成績越來越好，殿試取得三甲第四十二名，朝考取得一等第三名。他朝見皇帝之後，被欽點了翰林，並被授予翰林院庶吉士。紅翰林，是科舉試途中的巔峰了，中央的極品大員、地方的封疆大吏，絕大多數是從翰林裏選拔的。
曾國藩成功了！