我國有很多地方的地名都帶一個“州”字，如揚州、杭州、廣州、福州等，這是從古代的行政區劃沿襲下來的。
州的名稱出現在西漢時，但當時的州，還不是行政區劃。據史書記載，漢武帝為了有效地管理地方，將全國劃分成13個監察區，稱為“州”。每州都由中央派遣一名長官，負責監察郡、縣的官吏。這一長官，便被稱為刺史。
到了東漢後期，州慢慢演變成為一種地方行政區劃。州轄郡、縣，刺史又稱州牧，就是州的行政長官，擁有行政軍事權。
隋朝時，郡的建製被取消，隻保留州、縣。唐朝繼承隋朝的製度，將地方分成州、縣兩級。當時州的行政長官仍稱為刺史。
宋朝開始把州的行政長官叫做“權知某軍州事”，簡稱“知州”，“權知”意為暫時主管，“軍”指該地廂軍，“州”指民政。知州下屬的官員有同知、通判，分別掌管財政、刑法、治安等。《宋史·蘇軾傳》說蘇軾“知徐州”、“知湖州”、“知杭州”，就是說派蘇軾去管理徐州、湖州、杭州的政務，也就是擔任這些州的知州。
元朝沿襲宋朝的製度，稱州的長官為知州，但是路、府、州均置達魯花赤，專由蒙古人、色目人擔任，地位在知州之上。
明清兩朝，州有兩個級別：直隸州和散州。直隸州直屬於省，級別與府相同；散州隸屬於府，級別與縣相同。直隸州與散州長官均稱“知州”。