大學期間，他也常常思考自己的人生。世上有不少人毫無理由就落入不幸，受到命運的虐待，我該做些什麼呢？他希望去分擔遭受不幸的人們的痛苦，卻又難以割舍做學問、學音樂的喜悅，當這兩種截然不同的思緒在心中交戰時，他實在不知如何是好。就在他21歲那年夏天的一個早晨，《聖經》上的幾句話浮現在腦海：“隻為自己活著的人將失去生命，隻有為了福音獻身的人，他才能永生。”
他忽然明白了耶穌說這句話的意義。除了外在的幸福，人生還應獲得內在的幸福。他決定在30歲以前為學術和藝術而活；30歲以後，將獻身於一項直接為人類服務的事業。至於到時采取什麼樣的方式並不明確，對此，把它留給到時所處的境況來決定。
史懷哲大學畢業後成為一名牧師，幫助更多的年輕人樹立美好的信仰。後來又成為大學的神學講師以及神學研究所的所長。從1898年至1908年的十年間，共出版書籍8本，其中1905年，出版法文版《巴赫論》，被認為是自有巴赫的研究書籍以來的最高水平的著作，也使他在音樂界一夜成名。其後，又出版過6本書，有多本書被翻譯成多種文字在世界各地出版。
史懷哲在公益事業上的最初打算是在歐洲服務，想收容和教育被遺棄或無人照管的孩子，並要求他們今後也承擔起相同的義務。1903年，他已經有條件去嚐試為這樣的孩子們做些事情，可有關機構根本不允許誌願者參與此事。一次，當斯特拉斯堡孤兒院失火後，他向院長請求暫時收留幾個孩子，也遭到拒絕。此外其他的嚐試也均告失敗。有一陣子，他考慮今後為流浪漢和刑滿釋放者提供服務，在一定程度上也做了相應準備。
1904年秋天的一個早晨，讀到巴黎傳教士雜誌上一篇標題為《剛果傳教團迫切需要什麼》的文章，加深了他對生活在非洲黑暗大地的被殖民統治的受盡欺淩迫虐的不幸民族的了解，了解到由於教會人手不足，在非洲加蓬救濟土人的工作，幾乎無法著手。這一刻，他便下定決心，要去非洲，並且以一個醫生的身份去。他完全不懂醫學，為什麼有這樣的計劃呢？他想不僅靠語言，更靠行動來傳播愛。非洲土人醫療落後、環境惡劣，去行醫是最恰當的方式。要當醫生需要從頭學起。而且到非洲去醫治土人，光學一些專門的科目是不夠的，必須當一名萬能醫生，才能應付那種局麵。這對於一個30歲的人來說，是一個很大的挑戰。不安和迷茫也曾掠過史懷哲的腦際，可他發下了重誓，憑借自己的健康與毅力，一定要完成這個心願。
1905年10月13日，他向雙親以及若幹親近的人發信告知了自己的決心。很快，引來了一場可怕的衝擊。幾乎所有的人都反對他，認為他辛勤奮鬥許多年而得來的今天的一切，卻要去放棄，實在愚不可及。人們認為為非洲野蠻人服務，實在不必由天才來做。史懷哲應該獻身於學問和藝術的世界，這才是他對人類的最大貢獻。把他當親生兒子看待的魏多老師，發瘋一般地向他怒吼：“我傾注那麼多心血把風琴彈奏的所有技巧教給你，是希望你傳給後世的。你卻要把風琴丟棄，跑到非洲食人族的地方去，你去了又能怎樣？能為他們做些什麼？你知道這是對我、對風琴的背叛嗎？你這個忘恩負義的家夥！”也有人說：“他是不是因為失戀了，所以瘋了？”有人說：“他江郎才盡了，知道自己做一個學者或者音樂家，都不會有前途，所以想幹一件讓人想象不出來的事情出風頭，他是一個愛出名的野心家吧。”最令史懷哲不可思議的是，連平時滿口仁愛，力陳犧牲自我，為不幸的人們服務，傳播基督偉大精神的人們，除了極少數之外，都異口同聲地反對他的決定。麵對這一切，史懷哲以一個理性而成熟的男人對理想對人生的執著追求而默默地忍受著，並靜靜地付諸自己的行動。
1905年10月底，他向醫學院長提出了入學申請。院長當即滿懷好意地讓他去精神病教授那裏看看。但是在明白史懷哲的真正企圖以後，深受感動，接受他入學並免交全部學費。在醫學院學習的7年，是與疲勞作鬥爭的7年。剛開始他不能夠放棄神學講師和牧師的職務。在學醫的同時要在神學係講課，同時作為牧師幾乎每禮拜天都得去布道。正在從事的著作也不能半途而廢。此外，人們也要求他更多地參加管風琴演奏的活動，經常要去外地演出。這不僅由於他已是一名出名的管風琴家，還由於失去了神學研究所所長的收入之後，必須掙一些外快。直到1911年12月，通過全部醫學考試，得以畢業並獲得醫師資格。1913年，以《耶穌的精神心理分析》論文獲得醫學博士學位。