謝安在桓溫軍府工作時間並不長，很快，他應朝廷之請，擔任吳興太守。
這個官職不大，但卻是非常重要的職位，它代表了朝廷對於謝安的重新認可，而且對於他列位中樞、管理國民經濟也是一項很重要的曆練。
東晉官位大致上可分三類。第一類是由朝廷任命的地方官，如縣令、郡太守（包括王國內史）。第二類是地方上不歸朝廷選任、由郡太守自行辟除的郡功曹。第三類是中央職能部門官員。
在東晉，社會上除了有士族和庶族的階層分等以外，士族之中還分高級士族和低級士族，比如替代東晉的劉宋第一任皇帝劉裕就是出自低級士族。等級不同，職位分配也不同，低級士族在地方上基本隻能擔任郡功曹，在中央，基本上也隻能當事多還得罪人的治書侍禦史和侍禦史等極少數官職。
最高級士族一般愛當事少權多責任少的中央職能部門官員，而且還要指定當權力最大的吏部的官員。謝安女婿王國寶就是因為謝安沒有安排他到吏部當官而成為仇人。
當然，中央職能部門事少，但收入也少。所以高門大戶一般要安排子弟到比較富裕的郡縣當官，直接刮地皮，收入要比當京官豐厚得多。
東晉全部統治區有郡約二百，縣約一千，郡縣也分為若幹等級，其中最熱門的縣是二品縣、三品縣，最熱門的郡是大郡以及首都周圍的郡。因為在熱門的郡縣工作收入高，所以大家都搶著做，所以當太守，特別是富縣、富郡的太守，夯實自已的經濟基礎，已經是東晉高官晉升前的必備條件。當時本來太守任期六年，但是因為排隊的人太多，任期就越來越短，到了劉宋，隻有三年了，更多人隻是過渡一陣子就走。
吳興郡轄區在現在的浙江湖州、杭州、江蘇宜興一帶，這是東晉經濟腹地。吳興郡與會稽郡和吳郡當時並稱三吳，是江東最為富庶的地方。在地形上，這裏不僅臨近建康，可以互為犄角，而且易守難攻，漢靈帝時候，張角起義，湖北、江蘇一帶是重災區，隻有吳興郡防守嚴密，沒出什麼問題。
所以無論經濟、軍事上，吳興太守都是很重要的官職，是東晉世家大族晉升的主要路徑，這個職務，著名的王羲之和王獻之父子擔任過，而陳郡謝氏也先後有十人出任過。
謝安執政吳興，采取了無為而治的思想。按現在的政績觀來評價，謝安在吳興政績有限，史書上根本查不到。野史上說他上任後，修治殘缺，開墾荒野，勸課農桑，通關市，來遠商。這也是沒話找話，失之虛泛。可考的政績隻有一個，說是謝安在吳興時，曾組織民工開城西官塘，相當於給人民提供了自來水，民獲其利，頌稱為“謝公塘”。
雖然沒有一個大手筆，不過老百姓十分感激，後來還立了碑紀念他。
到了唐朝天寶末年，這塊碑丟了，大書法家顏真卿覺得丟了可惜，就拿舊史遺文重立謝公碑，並在碑陰記述重立經過。這件事也反映了謝安的巨大影響力。