台大的生活是相當艱苦的，許多學生都穿著打補丁的衣服。住宿條件也相當差：10個人合住一間房子，共用一張桌子，兩人合睡一張床，要做作業時，就把桌上的東西放到床上，晚上睡覺時再把東西搬回桌子上。一日三餐也很簡單，早晨是一碗稀飯和一點兒花生米，中午和晚上是在鋁盤裏盛上飯，然後加一點菜站著吃完了事。
在這種環境下，李遠哲既不逃避，也不抱怨，他盡自己的能力，積極地適應和改造它，體現了一種自立自強的精神。
台大有一個最好的讀書地方——圖書館，這裏經常人滿為患。每逢星期天，李遠哲就同大家一樣，早早地在圖書館外等候，待8點鍾門一開，便進去占位置，一直到晚上12點才離去。
在台大，李遠哲把整個身心都投入到學習上，第一個暑假就沒有回家，在學校裏自學高深的熱力學。台大經常開辦舞會，可李遠哲從來也不參加，他不是不喜歡輕鬆愉快的舞會，但他是一個有理想的人，他把自己的感情牢牢地控製住，為理想而平心靜氣地去讀書。
1959年6月，李遠哲獲得台灣大學理學士學位，接著又考入了台灣清華大學原子科學研究所。清華大學的設備比較先進，有原子反應堆和加速器等貴重的儀器。李遠哲利用這些先進的設備，做了不少現代物理的實驗，充實了在台大所學的有關知識。早在台灣大學，李遠哲就摸索出一套主動的自學學習方法，在清華大學，這種方法又幫了他的大忙。
有兩件事，李遠哲一直記憶猶新。
1960年，清華大學從日本聘了一位教授，名叫濱口博，他是李遠哲碩士論文的指導教授。在跟濱口博作碩士論文時，有一次李遠哲發現濱口博對一個實驗分析得不對，後來自己又嚴格地做了這個實驗，糾正了錯誤的數據。濱口博回日本後，李遠哲把自己的數據寫進了論文，寄給了教授，然而，濱口博還是給他改成了錯誤的數據。兩個人書信往來，爭執了好久，最後還是用錯誤的數據發表了。這件事，李遠哲多年後還一直覺得很遺憾：為了維護老師的絕對權威，就將科學的正確性置於一邊，這實在是不應該的。
還有一件事，則是李遠哲獨立進行的第一個成功的實驗。李遠哲在獲得碩士學位後，跟王企祥教授做了一段結晶構造的研究。有一次，王教授要他合成一種化合物晶體，這種晶體是一種很不穩定的物質，一遇到空氣就燃燒掉了，所以必須在真空裏麵合成。王教授對李遠哲和幾位助手說：“人家都做出來了，你們做不出來，就是笨蛋！”李遠哲是剛剛從事這項研究工作的，所以缺乏經驗，但他的自尊心不允許自己在困難麵前退縮，為了完成任務，他和助手們每天都是實驗、研究，研究、實驗、生活單調枯燥。經曆了多次失敗，克服了重重困難，他們終於合成了這種晶體。李遠哲後來才知道，他們在當時簡劣的條件下能合成那種晶體是個了不起的成就，因為首次合成這種晶體的人在10年後因此獲得了諾貝爾獎學金。這個成果證明，李遠哲是一個聰明、具有吃苦耐勞精神的人。
美國深造
1962年，在一位教授的推薦下，李遠哲考取了加利福尼亞大學伯克利分校，即加州大學。加州大學以其原子物理、化學、生命科學而聞名於世，能進入這樣一所名牌大學，李遠哲激動不已，他暗下決心：一定要努力拚搏一番，為人類社會作出貢獻。
加州大學有兩個著名的教授、馬漢和赫希巴赫。李遠哲選定馬漢做他的指導教授。在馬漢這裏，李遠哲發現他很少指導學生，在指定一個研究課題之後，他就不聞不問了。有一次，李遠哲向他請教一個實驗應該如何做，馬漢教授的回答是：“正是因為我不知道怎樣做，才要你去研究的，你應該自己去研究，然後將方法告訴我。”李遠哲隻好自力更生，獨立工作，去思考實驗的方法。
後來李遠哲才感到馬漢教授指導方法的優點，就像中國一句俗語說的那樣：“師傅領進門，學藝靠個人。”
這個優點在李遠哲和一個博士生討論問題時就更加明顯了。這個博士生在赫希巴赫那裏進行研究工作，李遠哲驚訝地發現：這位博士生幾乎不懂得如何獨立進行科學研究，好像隻是充當了赫希巴赫的兩隻手而已。
物理化學中的莫紮特
1967年，李遠哲來到哈佛大學。這時，赫希巴赫已經在哈佛大學任教了。李遠哲就在他領導的實驗室從事研究工作。
一到哈佛大學，李遠哲就向赫希巴赫提出了開展交叉分子束研究的新構想。赫西巴赫同意了他的建議，李遠哲就此開始了他奮鬥史上的一次大戰役。