相傳，廬山原名南障山，殷周之際，有一位名叫匡俗的隱士居住在山裏。當年周王剛從殷商王朝手中奪取政權，急需各類賢才來輔佐治理國家，周王曾多次盛情召征匡俗出山，可是都被這位隱士婉言謝絕了。後來，周王想效法當年周文王親自到廬山求賢，當他帶領大隊人馬到匡俗的住處時，匡俗已經羽化登仙，隻留下空廬一間。從此，人們就給這座神奇的山取了一個美麗的名字——廬山，又稱匡廬。
可見，至少在三代時期，人們就對廬山產生美好的印象了，其實廬山真正名聲大振的時代，還是在東晉時代。這個時代的廬山，不僅寺院眾多，而且是當時中國的兩大佛教中心之一。所謂“南有廬山，北有長安”，就是指當時的中國兩大佛門聖地。東林寺則是廬山所有寺院公認的鼻祖，這是為什麼呢？
從東晉到唐宋時期，廬山有數百座寺院，其中西林寺、東林寺和大林寺並稱“三大名寺”，歸宗寺、棲賢寺、開先寺和圓通寺並稱“四大叢林”。到了元代，還有人寫詩讚道：“廬山到處是浮圖，若問凡家半個無。隻有淵明曾好酒，至今有鳥號提壺。”可見到了元朝，廬山依然寺院林立。其實曆代文人騷客，多是因為廬山之美，寺院之多，慕名前往，然後留下優美的詩篇，這就更讓廬山和它的寺院聲名遠播。人們提到廬山的寺院，必然會談到廬山腳下的東林寺，在人們心目中，東林寺才能代表廬山的寺廟，東林寺才是廬山寺院的鼻祖。有人認為，雖說東林寺屬於廬山三大名寺之一，但實際上應居廬山寺院之首，更有人認為，與其說東林寺因廬山而出名，倒不如說廬山是由東林寺而名聞海內的。其中的原因，清人潘末在《遊廬山記》一語道破：除了五嶽以外，中國的名山當首推廬山了。東晉以前無人談到過廬山，自從東林寺創立蓮社淨土宗以後，高僧賢哲相繼而來，廬山也由此開始遐邇聞名了，可謂佛寺因廬山而得神勢，廬山借佛寺而揚美名。因此，廬山各處的寺院都以東林寺為鼻祖就是非常正常的了。
·慧遠大師怎樣創立東林寺
慧遠是東林寺的第一代住持，也是它的創建人，更重要的是他還是佛教淨土宗的創立人。
慧遠俗姓賈，雁門樓頂即今山西寧武附近人，334年，也就是東晉成帝鹹和九年生於一個士族家庭。慧遠幼年就非常勤奮好學，經常跟隨母親到本村樓煩寺參拜佛像。慧遠12歲跟舅舅到許昌、洛陽一帶遊學。所謂讀萬卷書，行萬裏路，通過刻苦學習，年紀輕輕的慧遠就已經是博覽儒家經典、通達老莊之學的大儒。354年，慧遠21歲，政治動亂的東晉社會使他產生了避世思想，久懷隱居之願。他打算遠渡江東，隱居於今江西南昌。可是，時值北方政權統治集團內部矛盾激化，互相殘殺，東晉又連年北伐，中原再度陷入大混亂，南路阻塞，使慧遠不能如願南下。
東晉永和十一年即355年，精神苦悶、找不到出路的慧遠前往太行山、恒山從學於當時的名僧道安，接受道安用風行魏晉的玄學思想來解釋《般若經》中的“本無”思想，很快豁然開朗，有所領悟，感覺佛法博大精深，感歎：儒道九流，都隻不過是些糟粕。最後他皈依道安法師。慧遠幼年求學，原來就有儒道兩家思想學說的基礎，領悟力非常高，因此理解佛法大意比別人快捷。加上他始終堅持不懈，夜以繼日，刻苦學習，精心思考，24歲時，已經開始講經。有的徒眾不大明白佛經的玄旨奧文，他便引證莊子哲學中有關虛無的思想比附發揮，於是多數人很快明白了佛門要旨。他的辯才峻嚴，調峰犀利，幾次大會辯論，都取得了極大的成功。道安法師聽了讚歎說：“使佛門之道在東土流傳，發揚光大的日子不會遠了。”道安還特許他借助“俗書”即佛經以外的書講解佛經的道理。