在一片不看好的聲音中，李開複卻在擔任微軟中國研究院首任院長的兩年裏取得了令人意想不到的成就。在他的努力下，微軟中國研究院成為一個世界一流、亞洲最高水準的計算機科學研究機構，之後在微軟中國研究院的基礎上建立的微軟亞洲研究院也成為除美國本土以外規模最大、成果最多的一個研究院。
由於在中國的傑出成就，2000年8月，微軟將李開複召回總部，並任命他為微軟全球副總裁，成為微軟公司根據“新一代網絡平台”的戰略組建的新部門“。NET”集團的主管之一。這標誌著微軟在未來將以“網”為核心替代“窗”，毫無疑問，這是一個巨大的戰略調整和挑戰。
李開複離開了中國，但是他的心卻沒有離開。
2002年8月，微軟在中國召開了一次教育高峰論壇，李開複特地從美國飛到北京。論壇上探討了中國和印度發展軟件人才培養的話題，李開複突然想起什麼來的樣子，一把抓過話筒：“我還要補充兩句。我這兩年在美國接觸到了很多亞裔人，包括印度人和中國人。我之所以相信中國一定會強大起來，是因為大家講的內容完全不同。很多印度人說，我們很多優秀的人都到美國來了，但我們都不願意回去。而我所接觸到的很多中國人說，我們有很多優秀的人到這裏來了，但我們每時每刻都想著回去。”這番話惹得平時對受訪對象質疑慣了的記者們感動不已，大家忙不迭地放下手中的筆，鼓掌，很真誠。
這不是李開複第一次透露出類似這樣的想法。微軟中國的公關經理尚笑莉曾經這樣評價李開複：“過去，我們一直在說‘赤子之心’，可我從來沒有真正體會到。但是有一次，我在他的身上突然就看到了，讓我特別感動。”那一次是在清華大學的演講，有一個學生問他為什麼回到中國工作，忽然就觸動了他的那種情感。他說：“我從小就一直牢記父母親的教誨——不要忘了自己是一個炎黃子孫。我希望，當我年老體弱時，回首往事，我會很自豪，我為中國人做了一點事。我希望，當我離開這個世界之後，人們想起我，會說，李開複曾為中國人做了一點事。這樣，我就會覺得沒有虛度這一生。”
李開複是這樣說的，也是這樣做的。在剛被調回總部的時候他曾認為，自己很快就會回到中國。“接下來的一年時間，我將更多地呆在總部，把這邊的工作做好。一年以後可能會回中國，因為麵對互聯網，中國的機會會更多。”李開複當時對記者這麼說。然而，他自己也沒想到，再次回到中國不是一年後，而是五年。
在這五年中，李開複一直在尋求著回到中國工作的機會。據微軟中國前總裁唐駿透露，在2003年，微軟大中華區開始調整之時，李開複就曾經想回到中國。當時他有一個想法，他任大中華區總裁，負責政府關係、高校關係、本地化研發，唐駿負責銷售管理，但微軟總部並沒有實行這種模式。
五年並不是一個很短的時間，我們所知道的關於李開複的另一個五年的故事是，剛來到中國的時候，他曾經向妻子先鈴許諾，至少五年不離開中國，因為按他的計劃，研究院研究的東西要成為主流至少需要五年，到那時才是他能夠放心離開研究院的時候。但是，當2000年6月，斯蒂夫·鮑爾默告訴他，現在總部特別需要像他這樣的人的時候，他說：“當Bill，Steve，Bob，甚至Rick都告訴我，公司需要我的時候，我必須對公司負起責任。”
從理智上說，回到微軟總部，擔任核心項目的負責人、帶領上千名技術人員完成工作是一件令人羨慕的工作；但是，如果我們了解李開複的內心想法，就可以知道，這並不是他想要的最好的工作，這使他遠離了中國，遠離了他“為中國做點什麼事情”的願望；如果我們再仔細研究李開複的簡曆，就會發現他最輝煌的時刻永遠與科研有關，他所有的成就，都是建立在創新的基礎上的。
早在卡內基梅隆大學任助教期間，他精深的、創造性的研究成果就為他贏得了盛譽。在這裏，他開創性地運用統計學原理開發出世界上第一個“非特定人連續語音識別”係統，被《商業周刊》授予當年“最重要科學創新獎”，確立了他在語音研究領域的泰鬥地位；他所開發出的“奧賽羅”人機對弈係統，也因為1988年擊敗了人類世界冠軍而名噪一時。在蘋果公司工作期間，他的“小精靈”上了美國最受歡迎的《早安美國》節目，人們驚奇於電腦原來還可以如此“能聽會說”，這使他成為家喻戶曉的IT明星；他主管多媒體技術研發，計算機迷們所熟悉的QuickTime係列音頻產品就是他們的一項研究成果；他還擔任過SGI公司的多媒體軟件子公司Cosmo Software的總裁，負責多平台、互聯網三維圖形和多媒體軟件的研發工作，這家公司所首創的OpenGL技術，直到今日還有著頑強的生命力；1998年，在幾乎沒有人相信的情況下，他一手建立了微軟中國研究院，並將微軟研究院打造成為微軟海外最成功的研究院……可以說，創新精神，一直是支持他持續成功的內在因素，而現在的微軟，雖然可以給他高位，給他高薪，卻似乎不再能給他一個精神滿足的空間。