日本警察起源於明治維新前封建領主的武士，他們是日本最早的警察。武士們通過對社會施加壓力，保證社會統一，消除分歧。日本從1868年明治維新後著手建新式警察，1875年製訂"行政警察規則"，1880年4月，改警視廳為警察本署。這是最早的以警察命名警察機關的記載。此前日本警察稱為"捕亡方"、"警保寮"、"警視廳"。明治維新之後，日本成為既倡導順從、不容反抗，同時又接受西方文化的國家。其時，日本參照法國的警察模式，建立了集權型警察體製，經過上百年的傳衍，形成了近百年未變的傳統模式，直到1945年8月美軍占領日本，結束了日本警察明治維新時代的工作模式。二戰後，美國按美國人的"民主思維"，為限製日本警察的職責，成立了旨在廢除集權型警察體製的"公共安全委員會"，力圖使警察置於各級議會的監督下，使日本警察體製在美占領軍的指導改建下成為分權型警察體製。但美軍對日本警察的改造並未能真正深入，1954年，隨著美國占領的結束，日本通過了新的警察法，仍然使警察係統形成垂直領導，恢複了集權型的警察體製。現代日本的警察製度正是依據其1954年警察法建立起來的，這被看作是日本現代警察建立的真正起點。由於如上的曆史過程，日本目前的警察係統大體上是一個獨裁有力、中央集權的二戰前警察製度(類似於法國模式)同戰後的"民主"的、分權的警察製度(類似於美國模式)的不完全結合，形成了一種分散和集中相結合的警察體製。應該說，日本警察體製中集權是其實質，分權隻是其表麵。所以，日本警察實質上等級森嚴，而外表上卻開明和仁慈，於是警察的兩麵性導致了人們對於警察的態度的矛盾:一方麵對警察服務表示感激，另一方麵又懼怕警察，經常謙卑地服從警察的命令和指導。同時，日本警察對於社會管理的深入程度是比較深的，他們不僅要求人民遵紀守法，還要求人民接受整個社會的道德，價值觀念。不僅執法，還進行立法。趙可:《國外警學研究集粹》，中國人民公安大學出版社,1999，第43頁。
根據1954年6月8日頒布的新警察法，日本很快將美國倡導的地方自治實體警察體製改為國家和地方兩種警察體係。即國家警察機構由國家公安委員會與國家警察廳構成，地方警察機構由地方公安委員會與地方警察機關構成。地方警察機關主要是指都、道、府、縣警察本部。"都"是指東京警事廳，"道"是指北海道警察部，"府"是指大阪府警察本部，"縣"是指43個縣的警務本部。國家及地方的各級公安委員會，分別對國家警察廳和地方警察本部具有行政監督權，包括製定警務工作基本政策，規章;協調與國家相關的警察行政管理活動;製定警察訓練、信息通信、刑事犯罪鑒定、犯罪統計及裝備等總的標準。但它們均不得直接幹預具體案件和其他警務活動;其中，國家公安委員會隸屬於內閣首相辦公室，委員長的任免由首相提名，議會通過;地方公安委員會對地方行政長官負責，其委員長由地方行政長官提名。國家警察廳是全國最高警察機關，其機關工作人員均為國家公務員。國家警察廳長官為警察的最高首長，其負責警察廳的行動以及人事任免，負責監督和控製地方警察機關在規定權限內活動。地方警察由警察本部、警察署和派出所與駐在所三級構成。韓延龍等:《中國近代警察史》(上卷)，社會科學文獻出版社,2000，第10頁。