泰戈爾訪華之時，就曾和中國友人有過共識，將由國際大學的印度學者到北京清華大學去傳播梵文並開展印度研究，由梁啟超帶領其他中國學者到聖地尼克坦國際大學教中文並開展中國研究。印度最大的民族資本家比爾拉承諾，將捐獻兩萬盧比（那時等於兩萬銀圓）在國際大學建造宿舍，供中國訪問學者住宿。
可惜的是，這些計劃因種種原因沒能實現。泰戈爾表示深深失望，他多次對專程來到“和平鄉”的中國學者譚雲山談及此事，希望他能在這方麵想些辦法。譚雲山說出了自己的想法：設法開展中印學術交流。在國際大學特別設一個中國學院，多招收幾個中國學者來印度。
1931年，譚雲山受泰戈爾委托回到中國。他找到著名教育家蔡元培尋求支持。蔡元培對泰戈爾非常敬重，他拍板定案，同意由他出麵，與知名人士組成中印學會，他也同意擔任會長，當時叫理事長。譚雲山擔任秘書，負實際事務責任。
就這樣，蔡元培成為中印學會的第一任會長，提請政府資助泰戈爾辦中國學院。不久，國民政府認為捐款給印度的事項，事關中印之間的官方關係，中印學會領導人應是政治要員，於是，領導人就更替為在政府中任要職的戴季陶、陳立夫、朱家驊等。譚雲山則擔任理事，被中印學會指定為該會在印度的全權代表。
學會決定，派譚雲山去印度幫助泰戈爾和他手下的負責人進行規劃，提出建立中國學院的具體方案，由中國政府協助實施。
1937年4月14日，泰戈爾創辦的國際大學成立了中國學院，由譚雲先生任首任院長。在首屆開學典禮上，詩人發表了著名的演講《中國和印度》。在演講中，詩人強調：“讓我們堅持不懈地履行職責，保護並提高各自文化的特殊價值。”
中國學院是一棟中西合璧的建築，門楣上的題字“中國學院”出自民國政府主席林森之手。中國學院建成以後，最高興的人就是泰戈爾。這是他一生的重大理想之一，由於譚雲山和無數中印友人及工作者的努力，使他在76歲時享受到理想實現的果實。
泰戈爾親自操辦學院的成立事項，並請當時的著名人物尼赫魯前來主持學院的開幕式。
泰戈爾的意願，尼赫魯樂於應承。不料，到了開幕式前一天，尼赫魯突然發高燒，不能出遠路了。他趕忙寫了一封信，叫女兒英迪拉連夜坐火車送去聖地尼克坦，代表他出席開幕式。
尼赫魯在信上說：“中國和印度，從曆史的黎明以來就成為姊妹民族，彼此都有悠久的文化傳統和思想的和平發展，應該在世界舞台上扮演主角……”
開幕式上，泰戈爾作了熱情洋溢的演講：“這的確，對我來說，是一個偉大的日子，是我盼望了很久、很久的。我現在可以代表我國人民履行我們曆史遺留下來的承諾，承諾在我國人民和中國人民之間保持那1800年前早已奠基的文化、友好往來……今天揭幕的這個大廈，將會變成兩國之間與時俱增的更大了解的核心與象征。中國的學生們和學者們將會來到這兒居住，變成我們的一部分，分享我們的生活方式，也讓我們分享他們的生活方式，他們對我們共同事業貢獻精力，幫助我們逐漸重建兩國之間可惜已經中斷了10個世紀，但收獲豐碩的相互交往的偉大過程。”
尼赫魯對中國學院的建立，給予了高度評價。以後他隻要有機會去聖地尼克坦，總是喜歡去看看中國學院，和院長譚雲山聊一聊，表明他對中國學院的高度讚賞。
泰戈爾創建的中國學院，曾邀請了不少著名的中國學者，培養了許多印度學者。中國學院成為中印兩國之間的一條文化紐帶。
中國學院建立20年後，1957年，周恩來總理和賀龍副總理應尼赫魯總理邀請訪問印度時，也曾專程造訪中國學院。此時，雖然泰戈爾早已作古，周恩來仍發表了熱情的講話，充分肯定泰戈爾對中印友誼所做的貢獻。在今天的中國學院，人們依然可以感受到一代大師泰戈爾對中國人民和中國文化的友好感情。