總之，“唐叔虞祠”始建於北魏以前，因為最早關於晉祠的記載，就始見於北魏著名的地理學家、散文家酈道元所著的水文地理專著《水經注》，酈道元曾在書中寫道：
懸甕之山，晉水出焉，昔智伯之遏晉水以灌晉陽，其川上溯，後人踵其遺跡，蓄以為沼。沼西際山枕水，有唐叔虞祠。
水側有涼堂，結飛梁於水上，左右雜樹交蔭，希見曦景……於晉川之中最為勝處。
《魏書·地形誌》記載：
晉陽西南有懸甕山，一名龍山，晉水所出，東入汾，有晉王祠。
由此可見，北魏時期的晉祠已經祠、堂、飛梁都具備了，也就是說早在1500年前，晉祠在晉陽就已經具有相當大的規模了。在漫長的歲月中，晉祠曾經過多次修建和擴建，麵貌不斷改觀。
北齊天保年間，文宣皇帝高洋將晉陽定為陪都，又在晉祠“大起樓觀，穿築池塘”，進行了一次大的擴建。晉祠的難老泉亭、善利泉亭、八角蓮池、雨花寺、上生寺、等，都是這個時期的建築。
晉祠坐北朝南，山門三楹，門外台階高聳。院中設享堂，將祠宇隔為前後兩進。大殿的神龕內，唐叔虞像端坐正中，身穿蟒袍，手執玉圭，神采奕奕，相貌堂堂。神龕內左右各有一侍童待召，神台下文臣武將對峙而立。
難老泉俗稱南海眼，位居水母樓前，是晉水的主要源頭，因其水溫恒定而清澈如碧玉，常年不息，所以有人便摘取《魯頌》中“永錫難老”的錦句命名其為“難老泉”。相傳，從難老泉分流出來的四股水，曾在晉祠一帶形成水磨碾108盤。
難老泉有“晉陽第一泉”之稱，泉水自懸甕山底岩層湧出，潛流10多米，從水塘西岸半壁的石雕龍口注入溏中.看似白練飛舞，聽如鳴琴合奏，構成晉祠八景之一的“難老泉聲”，此景為晉祠勝景的精華所在，也是晉祠八景”之最。
難老泉上建有“難老亭”，高9米，為八角攢尖頂，形圓頂銳，宛如甕蓋，周空而中虛，共六楹，淳樸瀟灑。泉口設木檻，護人隕落。泉亭下端清潭西壁半腰間，有漢白玉雕成的龍頭，泉水由此向東噴水，瀉入下方清潭。
清潭又名金沙灘，也叫“石塘”，在晉祠中的聖母殿南麵，麵積約100平方米。於後來宋嘉年間築塘，中橫石堰，開鑿有10孔，北七南三，東連人字堰，西豎分水石塔。潭水清澈見底，遊魚曆曆可數，水中草藻，四季常青。
後來唐代詩人李白遊曆晉祠時，曾浮舟於晉水源頭，欣然作詩，謳歌晉水“浮舟弄水簫鼓鳴，微波龍鱗莎草綠”、“晉祠流水如碧玉”、“百尺清潭瀉翠娥”。
北宋的著名文學家範仲淹也讚美此泉“千家灌禾稻，滿目江南田。”“皆如晉祠下，生民無旱年。”
難老泉亭雖然不大，但薈萃了眾多名聯匾額，其中以後來明末清初的著名書法家傅山所書、懸於亭內最高處的“難老”豎匾最負盛名，用筆蒼勁洗練，頗具神韻，被譽為“神奇之筆”，為晉祠三大名匾之一。
此外，亭內還有劉彙的“晉陽第一泉”、楊一陽的“奕世長清”等三塊匾。
善利泉又名北海眼，也是晉水的源泉之一，但水流微小，不及難老泉的1／10。善利泉位於唐叔虞祠西南隅，朝陽洞東麵，靜怡園南麵。泉水從山底斷層岩中淌出，一年四季，水溫如常，泉流如玉，晶瑩剔透，遊魚細石，清洌可視。
善利泉水分流暗溪與八角蓮池兩個方向。善利泉的上邊建有“善利泉亭”，為八角攢尖式，麵積72平方米。善利泉亭內“善利”一匾，典出自《老子》：“上善若水，水善利萬物而不爭。”
八角蓮池又名放生池，位於唐叔虞祠前。其形八角，約半畝大，周繞矮磚欄。善利泉水自西北入，魚沼水自西南入，東有淺水口通北河。
八角池中植蓮，一向被人們所讚賞，有“蓮池映月”之稱，為晉祠內八景之一。池中所植睡蓮，花分紅、白兩色，花期很長，每當日暮便將開放的花瓣合攏如蓓蕾狀；日出便又漸次開放，且朵朵均挺出於碧綠的翠葉之上。夜間如有碧月照臨，清波翠浪，蟾光倒映，更覺分外增輝。
雨花寺廟位於晉祠西部，坐北朝南，由正殿、配殿、東西廂房、山門及鍾鼓樓組成。正殿三楹，磚木結構，歇山式建築，塑有佛像三尊，塑工頗佳。配殿齊全，左右配殿各三，左安關帝，右安觀音，東配殿奉二郎神，西配殿祀土地神，韋馱小殿在庭中。東西廂房各五間，硬山式磚木結構。
雨花寺的山門左右為鍾鼓樓，門前有石獅一對。寺廟前沿為高闊平台，呈方形，圍以漢白玉欄杆。四周蒼鬆翠柏，綠樹掩映。此寺先後於明清時期進行了修繕，寺廟的山門懸掛有清代著名書法家柯璜的題匾 “妙法莊嚴”。
上生寺位於晉祠的南部，距德隱齋約100米處。寺前有寺樓河經過，河水清澈見底，常有魚兒在水中嬉戲。正殿三楹，中奉佛像，西僧舍三椽，庭中有韋馱佛小殿。院內有四棵高大挺拔的鬆柏，直插雲霄。照壁上磚刻對聯一副：
現清淨身，半壁雲山皆佳鏡；
饒廣長舌，四圍流水盡潮音。
經過北齊擴建後，晉祠的規模更勝於北魏了。當時，著名文人祖鴻勳曾寫了篇《晉祠記》讚述晉祠的山光水色和亭台樓閣。