通過儀門，院落變得豁然開朗。坐落在正對麵高台之上的縣衙大堂頓時映入眼簾。在這處院落的東、西兩側，也就是大堂左右的廊廡（wǔ），分設著吏、戶、禮、兵、刑、工六部。這六部是縣衙署必不可少的辦事機構。它們分成東、西兩組，按照“左文右武”的禮序，和大堂、二堂配套，組成了縣衙署行政機構的權力核心。縣丞負責管理吏、戶、禮部，典吏則掌管著兵、刑、工部。
縣衙大堂在縣衙署裏算是最重要的主體建築，所以位於縣衙中心。按照明代縣治的規格，縣衙大堂的麵闊一般應為三間，然而不知為什麼，平遙縣的縣衙大堂卻破例比照府衙的等級規格建成五間，顯示了平遙縣在眾多縣治裏的地位非同一般。
平遙的縣衙大堂進深六檁（lǐn），單簷懸山頂，外牆采用柵欄門和直欞窗，坐落在1米多高的磚砌台基上。月台前的台階采用了等次較高的垂帶踏跺，表明了地位的尊貴顯耀。中國古代的縣衙大堂又稱公堂、正堂或正廳。縣令就是在這裏舉行典禮，發布政令和審理案件。或許為了表示辦事公開公正，也或許為了向庶民百姓宣示官府的威嚴，總之縣衙大堂無遮無攔，直接麵對著大堂前開闊的庭院，並且月台也不設石欄板。這樣一來，大堂內外通透互動，便於麵向圍觀民眾理政訓政和審理刑事案件，因而兼有了懲一儆百的誡示作用。大堂正中的屏風上置有一幅象征“清正廉明”的山水朝陽圖，頂置“明鏡高懸”匾額。在屏風前高出地麵的官台上以四根立柱支撐，柱間不設任何隔斷，圍成開敞的官閣。官閣是縣治權威的象征，屏風繪有鬆鶴朝日圖，寓意皇權一統，四海歸一。官閣內設幾案與官帽椅，幾案上擺放紙墨筆硯文房四寶、驚堂木和火簽筒，案旁右側立有一個木架，專門用來放置官印。它的兩側陳列正七品官的儀仗。看上去整座縣衙大堂莊重肅穆，氣勢威儀萬千。
繞過縣衙大堂北去，來到二堂。這座建築同樣麵闊五間，而內部陳設要比大堂簡化得多。這裏是縣令審理婚姻、土地、房屋、債務等民事糾紛和處理日常公務的場所。二堂設在大堂後麵的內庭院，坐落於院中院。外麵又由門禁值守，這樣一來使得內庭院變得相對獨立和封閉，顯示了審理民事案件的私密性。
依照明清兩代吏製的規定，縣令一旦走馬上任，必須在遠離家鄉五百裏外異地為官，而且不得帶家眷。於是在縣衙二堂後麵專門為縣令建造了官宅。平遙縣衙的官宅和普通縣衙沒什麼兩樣，也是一處完整的四合院，前有內宅，麵闊五間，硬山屋頂，作為縣令起居、接待上司和處理一般公務之所。內宅中間三楹的明間和次間是客廳，東、西暖閣為臥室和書房。所不同的是內宅後麵建有大仙樓。這是因為清代的官衙一般都尊奉狐仙為守印大仙。平遙縣衙的大仙樓完全采用當地民居特有的下窯上樓式結構，冬暖夏涼。這種建築的下麵一層造成磚券窯的形狀，並在前簷建柱廊，二層樓則是木結構建築，專門供奉守護縣令印鑒的大仙。這種別具一格的大仙樓在國內其他縣衙十分罕見。
複建後的平遙縣衙忠實地再現了中國明清時期縣衙署的格局和風貌。它所反映出來的不僅是那一時期的政治製度和官吏製度，而且滲透著儒家禮製思想的深刻影響，為世人了解中國明清時期的縣治，進而認識中國古代吏製，提供了珍貴的實物形態和形象史料。