第二學期結束以後，也就是在馬克思到波恩就學剛滿一年時，父親把兒子喚回家中，並且打算把馬克思送到柏林大學法律係學習。
1836年8月底，馬克思領取了波恩大學發給他的學業證明書。接著，他遵循父親的安排，到學校辦理了退學手續，隨後便立即踏上了回故鄉的道路。為了趕上柏林大學新學期的開學，馬克思隻在家裏休息了一個多月，就重整行裝，在1836年10月17日啟程從特利爾到柏林去了。由於當時普魯士境內還沒有鐵路，旅行仍然是比較困難的。馬克思隻好乘郵車趕路，在途中用去了5天時間才到達普魯士王國的首都——柏林。從此，馬克思便在柏林大學駐足下來，開始進入了一個新的學習和生活環境。
柏林是普魯士王國的政治、經濟、文化的中心，是各種社會矛盾集中的地方。而柏林大學是德國的最高學府，是思想鬥爭的中心。在這裏不僅充滿著政治自由主義的思想，而且一直存在著濃厚的學術空氣。因此，柏林大學對馬克思產生了極大的吸引力。
1836年10月22日，年僅18歲的馬克思進入了柏林大學的校門，當天就辦好了入學手續，在古老的萊比錫1號街，馬克思租了一間房子，開始安居下來，決心放棄在波恩時那種不規律的生活方式，重新在自己前進的道路上揚起理想的風帆。因此，馬克思隻是勉強地拜訪了他父親在柏林的幾位有地位的老朋友，隨即專心致誌地下工夫學習起來。
馬克思看到，柏林大學的學習環境要比波恩大學有利得多，這裏的學生比波恩大學的學生也要勤奮得多，普遍地向往著搞學問，根本不存在飲宴、決鬥、集體娛樂之類的事情，整個校園裏是一片安靜。
在當時的柏林大學裏，不僅是學習環境比較好，而且教學質量也比較高，因為在這裏授課的教師，大多數都是一些各國著名的學者。不久之前德國古典哲學的最著名的代表黑格爾在這裏講過學，馬克思來這裏時，許多講座還由黑格爾的門生主持。在第一個學期裏，馬克思到當時辦得最好的法學係聽了兩位最傑出的教授的課——弗裏統裏希·薩維尼講授的《優帝法典》和愛德華·甘斯講授的《刑法》。這兩個人是當時兩個相互對立的法學學派的領袖人物：薩維尼是曆史法學派的帶頭人，而甘斯則是進一步發展了的黑格爾法哲學學派的帶頭人。
馬克思十分喜愛這樣的學習環境，他入學後立即開始刻苦攻讀。據他自己說，他到柏林以後，斷絕了從前的一切交往，“專心致誌於科學和藝術”。他以自學為主，聽課為輔，而且非常用功。在校9個學期，他總共選修了13門主要與法學專業有關的課程。他最感興趣的是進步法學家甘斯的課，選修了他講授的刑法和普魯士法。愛德華·甘斯教授是一位不拘一格、卓有創見的社會科學家，他原來是黑格爾的學生，但他卻有自由主義的思想。他以為社會問題是最本質的問題。在不隻一次地去法國以後，他成了聖西門主義者。這位開明的教授不僅在學術上，而且在政治和社會見解方麵，都對學生們產生了巨大的影響。當然，在這些學生中，馬克思受益最大。甘斯也很讚賞馬克思的才華和刻苦學習的精神，給他的評語是“極為勤勉”。馬克思以驚人的毅力、頑強的精神在書林學海中探求。他研讀了大量法學、哲學、曆史、文學藝術等方麵的著作，獲得了課堂上難得得到的廣博的知識。
1837年11月馬克思給他父親寫了一封長信，彙報了他學習和研究的情況，在這短短的一年時間裏，他讀書之多、研究問題之廣、成果之大，令人驚歎不已。他讀了海奈克齊烏斯的《按照〈羅馬法全書〉次序敘述的民法原理便覽》和蒂博的《羅馬法全書的體係》，研究了薩維尼關於占有權的著作，還研究了安澤爾姆·弗爾巴哈、格羅爾曼和克萊因的刑法，克拉麥爾的《論詞義》，韋寧-英根海姆關於羅馬法全書體係的著作。他還閱讀了萊辛的《拉奧孔》、佐爾格的《埃爾溫》、溫克爾曼的《藝術史》、盧登的《德國史》、培根的《論科學的價值和發展》、賴馬斯的《關於動物的複雜本能》。他還翻譯了《羅馬法全書》的頭兩卷、塔西倫的《日耳曼尼亞》和奧維狄烏斯的《哀歌》、亞裏士多德的《修辭學》的一部分，並且對讀過的東西認真做了筆記。但他絕不是囫圇吞棗地接受一切讀過的內容，這是他學習的特點。他始終努力要找到自己的立場觀點。他既對他所讀過的那些書籍的作者們持批判的態度，也對自己持批判的態度。他抱著徹底理解而首先是批判的態度去獲得現有的知識。
在這一年，主要在第一學期，他還寫了大量的詩作，有抒情詩、敘事詩、諷刺詩。他的詩大多是抒發感情的，但也有不少的詩表達他對邪惡和黑暗的憎恨，對正義和自由的渴望。馬克思對自己的詩並不滿意，當時就作了自我批判。經過激烈的思想鬥爭，他打消了在詩歌創作上有一番成就的念頭。
這期間馬克思曾打算根據自己對法學理論的研究，創立一個新的法哲學體係，他擬了體係的綱目，還寫了300頁初稿。但在深入研究過程中他發現沒有哲學觀點的指導就不能前進。然而需要哪一種哲學呢？
這位年輕人為自己探索著一種世界觀上的堅定立場，為自己的科學工作和政治見解探索著一種可靠的理論基礎。他鑽研德國哲學家康德和弗希特的哲學思想，閱讀伏爾泰和盧梭的著作，他不斷地在無情的自我批判中反複考察自己所走過的思想道路和取得的結果。他越來越清楚地認識到主觀唯心主義的反科學性，因為主觀唯心主義竟然認為世界並不是客觀存在，而是人的自我意識的產物。
緊張的學習——常常是在燭光下通宵達旦地鑽研——嚴重地損害了馬克思的健康。在以後的日子裏，他的健康狀況也是非常不穩定，以致不得不免除他的兵役。醫生勸他到鄉間去度夏。1837年春，這位大學生到了柏林郊外的斯特拉勞，寄居在漁夫兼客棧老板克勒那裏。馬克思每天在施普雷河畔的草地上散步，在斯特拉勞和柏林大學相距6公裏的路程中，徒步往返，再加上新鮮的空氣，使這位大學生在幾個月內“從一個貧血體弱的人變成一個強健有力的壯漢”。
他的永不停歇的探索精神終於使他在1837年夏天找到了一個首先使自己滿意的答案——回答了精神和人類曆史道路的問題，即這位大學生“發現”了黑格爾。當時這位著名的哲學家——黑格爾在柏林逝世才隻有6年。黑格爾試圖論證曆史有其內在的聯係和必然的發展過程。卡爾·馬克思像其他許多人一樣，對黑格爾所做的這些研究無限神往。不久，馬克思就認識到，在喬治·威廉·弗裏德裏希·黑格爾的哲學中，本質的、革命的內容，便是他的思維方法——辯證法。
黑格爾的辯證法清楚表明：任何曆史狀況都不過是發展中的各個暫時階段，是人類社會從低級向高級、永無止境的發展過程中的不同時期。昨天還合理存在的事物，到了今天就該消亡，取代它的是人類社會曆史中新的、更高的現實。