中國古代社會盡管通過“募役”建立了基層公務員製度的雛形，鄉村的基層組織長期實行鄉村自治的方式，某種程度上，它是減少行政開支的有效方式。為了使鄉村自治能夠實現和諧安定的局麵，避免豪強劣紳的為非作歹、橫行鄉裏，理學對於鄉村的教育和自覺規範的自治，起到了很好的促進作用。換句話說，大致從南宋中期開始，鄉村自治的頭麵人物不再僅僅是有錢有勢的豪強，而更多地讓鄉村的讀書人介入。不管他們是有意進入仕途，或者是以前從仕途退下來的官員及其後代，這些鄉紳成為鄉村自治的重要力量。
鄉村基層學校，例如私塾等，其教材主要也是理學家們編寫的啟蒙教材，例如《三字經》。與官方教材不同，中國古代大量的“蒙學”教材雖然也有官方指定創作，例如梁武帝命人創作的《千字文》，但更多是民間創作，例如《三字經》《百家姓》《名賢集》等，它們也是民間啟蒙學校自選的教材。理學觀念從教育和鄉紳隊伍兩個方麵使得讀書人在為官生涯和鄉村自治的兩個領域，都能貫徹“天下為公”的精神，從而避免鄉村自治的腐敗。
宋朝由於法治發達，出現了一批“健訟”的人，其中不少就是在基層政府機構工作的胥吏。他們或有工資而覺得不足，或沒有工資收入，不得不利用自己在司法部門工作的機會，鼓動別人打官司，自己便可以上下其手，從而獲得好處。這種現象也是古代公務員製度不完善的地方。南宋時期出現的“息訟止爭”，所依據的思想核心也是理學精神。在同時期的歐洲，法律還在發育階段，便出現了“健訟”的律師，本質上就在於別人不委托他們打官司，他們就沒有生存空間，因此，小官司要鬧大，大官司要拖長。這種行為所體現的，正是宋朝“免役法”之前的狀態。中國古人在很久以前就試圖避免這種現象，但在西方社會，這種現象至今依然頑固地存在。
宋朝時期，基層社會除了以理學思想為主導的鄉村自治外，在出現重大問題的時候，還有超越地方豪強之上的父母官。與同時期的歐洲相比，歐洲沒有主持公正的父母官，用中國的詞彙來形容，歐洲的地方政治隻有地方上的世襲豪強。基層社會由世襲豪強實行自治，就很容易產生黑社會。但是，在等級製度下則不會，因為等級製度使得地方上的少數人擁有特權，他們的為非作歹、欺壓百姓，就像歐洲封建貴族那樣是合法的。隻有在等級製度消失後，人人平等的平民社會理論上已經建立，但是，平民社會的基層管理還沒有形成或沒有完善，繼續由地方豪強沿用等級製度下的基層管理模式才會出現黑社會。歐洲平民社會是與資本主義同時產生的，因此，在資本主義早期，幾乎無一例外地出現嚴重的黑社會，就是這一原因。
王安石之後，“免役法”或“募役法”依然在實行，隻不過在實行過程中有了不少調整。但是，這一製度並沒能完善，主要原因是南宋被元朝所滅。元朝的科舉製度形同虛設，漢人沒有出路，要想在政府謀職，大多隻能做毫無升遷希望的胥吏。政府理念的缺失和吏人前途的渺茫，使得元代的腐敗從政府高層到基層無一幸免。施耐庵創作於元末明初的《水滸》，實際上是借宋朝的故事來批判元朝，以證明元末農民起義的合法性。元朝吏治的腐敗，造成一係列嚴重的後遺症。
首先，官與吏的對立開始形成。漢代的官與吏沒有明顯的區分，轉換也很方便。唐宋實行了科舉製，官與吏的轉換有所限製，但依然能夠實現，隻是程度不同而已。元代一是科舉製度缺失，二是蒙官漢吏的分野，使得官與吏的轉換幾乎無法實現，從而出現一批混日子、混好處的吏人。其次，元代的這個局麵嚴重影響了明朝的開國皇帝朱元璋。朱元璋沒什麼文化，在元代統治下，他充分體驗和感受了吏治的腐敗。因而，朱元璋在奪取政權後，因為缺乏真正的指導，他憑借個人好惡，看不起胥吏，甚至仇視胥吏，並製定了歧視胥吏的法律。例如，明代規定，胥吏不能轉為官員，這實際上是元朝歧視漢人政策的延續。當了胥吏的人，甚至不能考進士，隻有那些考了秀才而無出路的人才去擔任胥吏的工作。近代有一個頗具歧視的稱呼，叫做“紹興師爺”，指的就是這些沒有出頭之日的胥吏。他們往往很聰明、精明，在政府機關工作，鬼點子不少，但是不好惹。實際上，“紹興師爺”在元朝就有了。紹興靠近南宋的都城，南宋時期，杭州、紹興地區是文化程度、教育普及程度較高的地區，南宋的幾位皇帝也來自於居住在紹興地區的趙姓宗室。到了元代，文化程度較高的江浙士人很難在朝廷官員序列中有出頭之日，“紹興師爺”既有特指紹興的意思，也是江浙士人的泛稱。朝廷既不給他們出路，又缺少不了他們的專業知識，而這些人又往往由於過去的種種榮耀而看不起眼前的蒙古官員。因而，在畸形的元朝官吏體製中，他們成為政府機構中陰陽怪氣的特殊人群。本來，這些人隻是對元朝統治不滿，但是，由於朱元璋沿襲了元朝的政策，致使“紹興師爺”的習氣未能得到緩解和釋放，終於從對於元朝蒙古人的陽奉陰違，變成胥吏階層的特色。這不能不說是朱元璋的一大敗筆。到了清代，由於滿族貴族利益集團的出現，對胥吏的歧視並沒有多大改變。因此，作為精通政府工作的胥吏，作為很多政府工作領域不可或缺的專家，胥吏的“紹興師爺”形象再難改變。