認真說來，“地方上”這個概念，也是要到秦以後才會產生的。因為隻有一個幅員遼闊且又實行郡縣製的統一大國，才會有中央和地方，也才會有中央和地方的關係。這種關係，仍然要算漢代最好。錢穆先生就說：“中國曆史上講到地方行政，一向推崇漢朝，所謂兩漢吏治，永為後世稱美”，是為篤論。
漢代地方行政製度之好，在於簡單，隻有郡、縣兩級。加上中央，也不過三級。層次少，效率就高，腐敗的可能性也小，這是大家都明白的道理。再說層次少，也親切。縣以上就是郡，郡以上就是中央，用錢穆先生的話說，大家都不覺得這個中央政府高高在上。
層次少的另一個好處，就是官級少，升轉快，官員的政治前途明朗，工作積極性就高。西漢中央政府的“高級幹部”實際上隻有兩級，即“三公”和“九卿”。三公就是丞相、太尉和禦史大夫，都隻有一個人。丞相相當於總理，金印紫綬；太尉相當於三軍總司令或兵馬大元帥，也是金印紫綬；禦史大夫相當於副總理兼監察部長，銀印青綬。九卿其實就是九個部長或“部長級幹部”（比如廷尉就是司法部長，大鴻臚就是外交部長，大司農就是財政部長），官俸二千石。地方上也是兩級。最低一級是縣。大縣行政長官叫縣令，官俸六百石至一千石。小縣行政長官叫縣長，官俸三百石至五百石。縣以上是郡，行政長官叫守，景帝時改稱太守，官俸二千石。也就是說，郡守和九卿是平級的。西漢的郡大約一百個，一個郡管一二十個縣。這樣算下來，當時一個郡守，也就相當於現在一個州長。請想一想，一百個州長（郡守）和九個部長（九卿）平級，是什麼概念？自然是州長變部長並不稀奇，部長變州長也不委屈。這就有利於“幹部交流”。再說中央政府的部長雖然隻有九個，地方上的州長卻有一百來個。縣長們（大約有一千三百左右）即便當不上部長，當個州長總還有希望。縣長和州長之間又不再有等級。隻要加把勁，一步就能跨入“高幹”行列，沒準還能到中央工作，縣長們豈能不努力？實際上漢代官製的最大特點就是“輕中央而重地方”。所以漢代的地方政治是最好的，吏治也是最好的。
不過好景不長，這個製度很快就遭到了破壞。始作俑者不是別人，正是那位雄才大略的漢武帝。漢武帝在元封五年（公元前106年）把天下分為十三個州部，每州派去一位刺史，許多學者便據此認為漢代地方行政區劃是三級：州一級，郡一級，縣一級，州領導郡，郡領導縣。其實這是不對的。因為刺史不是行政官，而是監察官，是中央派到下麵去監督地方官的“特派員”。他隻能奉詔察問六件事情，不得幹預地方行政，還沒有固定治所，俸祿也隻有六百石，相當於“縣處級”。你想，哪有縣處級領導地市級的道理？顯然，刺史不是一級地方官員，州也不是一級地方行政區域。所以在漢武帝時代，這事還不算亂套。
但是到漢成帝綏和元年（公元前8年），情況就變了，刺史變成了牧，級別也是二千石。以後反反複複，一會兒刺史一會兒牧，州也逐漸成為地方行政實體（比如冀州牧袁紹、荊州牧劉表、兗州牧曹操，便都是擁兵自重割據一方的諸侯）。這樣折騰到隋文帝開皇三年（公元583年），朝廷幹脆廢了郡，直接以州統縣。至於州的行政長官，則有叫刺史的，有叫太守的，還有叫牧的，因為隋唐兩代的州，其實就是漢代的郡。如果是特殊的州（比如首都和陪都），就叫府，其行政長官則叫牧（從二品）或尹（從三品）。這是唐人的發明，宋人也跟著做的。隻不過宋代的府比唐代的多。稍微特殊一點，就不叫州，叫府。
可見唐代地方行政區域原本也隻有兩級：州府一級，縣一級。但是唐人和漢人一樣，也喜歡從中央往地方派上級官員。漢代隻派了刺史，唐代派的就多了，其中最重要的是觀察使和節度使。觀察使和漢的刺史一樣，原本是中央派下來巡視地方的，結果巡回變成常駐，成為名不正言不順的更高一級行政長官。節度使原本也是特派員，隻不過觀察使管監察，節度使管軍事。結果也一樣，也成為名不正言不順的更高一級行政長官。中央監察官變成地方行政官已是不妥，軍區司令員變成地方行政官就更成問題。最後，節度使變成割據一方的“藩鎮”，唐王朝也就滅亡。
唐代觀察使監臨的區域叫“道”，宋代則叫“路”。宋代地方行政區域原本同樣隻有兩級：州府一級，縣一級，但開國不久（宋太宗至道三年，即公元997年）就在府州上麵加了一級，叫“路”，而且其行政長官居然是四個，南宋時簡稱為帥（安撫使，管軍事）、漕（轉運使，管財政）、憲（按察使，管司法）、倉（常平使，管救濟）。這就荒唐。唐代州縣，隻要承奉一個上司（觀察使），宋代則要承奉四個，這地方官豈能好做？何況這四個大員，互不相屬，都直接對皇帝負責，你說這事情可怎麼辦？所以宋的地方行政，簡直一塌糊塗。