“知縣”之“知”本意為管理、主持的意思，“縣”是古代行政單位，知縣就是管縣，管理、主持一縣的政務。
秦朝在全國推行“郡縣製”，起初，秦在新兼並的邊地設縣，後來又推行到內地。縣的長官稱為縣令或縣長。這一稱謂一直延續到唐代。
唐朝稱佐官代理縣令為知縣事。宋常派遣朝官為縣的長官，管理一縣行政，稱“知縣事”，簡稱知縣，如當地駐有戍兵，並兼兵馬都監或監押，兼管軍事，官秩多是七品。知縣的助手有縣丞、主簿等。縣丞協助知縣管理縣政，主簿管理全縣的糧稅、戶籍等。
元代縣的主官改稱縣尹，明、清以知縣為一縣的正式長官，正七品，俗有“七品芝麻官”之稱。