日本是已開發國家中犯罪率最低的國家之一。它的犯罪發生率為1.03%，僅是英國的三分之一，法國的四分之一，美國的六分之一。
日本警察有五個級層，分別是國家警察廳、大區警察局、都道府縣警察本部、警察署； 以及「交番」和「駐在所」。警察組織的最高管理機構是內閣領導下的國家公安委員會。
國家警察廳是全國警察行政的領導機構，下設負責機構綜合事務的長官官房；負責少年保護，保安管理，情報技術的生活安全局；負責負責犯罪調查的刑事局；負責交通管理的交通局；負責外事和國際反恐的警備局；以及情報工作的情報通信局。
二戰結束後，美國對日本進行了以地方自治、分權制衡為主要內容的警務改革。裁撤了秘密警察，在中央和地方設立了體現民主化管理的公安委員會，建立了國家地方警察和自治體警察並存的警察管理體制。將維護公共安全和秩序的人員分為警察、消防員、入境警備官、海上保安官等四類，分別隸屬不同部門。
日本原有的警察管理體制開支大、效率低，警務改革後，日本頒布了《警察法》，精簡機關，規範機構設置，全國警察實行統一的工資待遇標準，工資待遇根據警銜、職務、工作年限等分類定級，其工資待遇由國家財政全額保障。
日本全國共設立 47個警察本部，1173個警察署，實行署長負責制，每個警察署的人員編制約為 300 人左右。警察署的主要職責是管理轄區警務工作，指揮、管理、監督交番和駐在所的基層警務工作，並進行巡迴檢查。
交番與駐在所是日本最基層的警察組織，是社區居民的「社區安全中心」。二者的區別是：交番一般設立在城市地區，實行輪班制，每班值勤警察三名或者三名以上。而駐在所原則上被設置在鄉村或半鄉村地區，每一駐在所僅安置一個警察。
交番在犯罪預防和突發事件的處置及快速反應方面具有較大的優勢。24小時中，交番總有人值班，有利於震攝和防範城市中的犯罪；而農村地區的駐在所制度，可以讓常駐的警察和當地居民保持更加親密的接觸。
日本全國共有交番所6260個，駐在所6329個，這也代表著日本警察有三分之一都在基層工作。
交番里的警察會定期進行治安巡邏，掌握轄區內治安動態，發現治安隱患，盤查可疑人員，處置突發事件，發現問題及時解決。交番警察還會定期和不定期的開展各種安全防範宣傳活動，提醒居民如何防止財產被盜，防止人身傷害。
交番警察也會負責走訪住戶，調節鄰里糾紛。在日本的社區中，「有困難找交番「已經深入日本人的心底，交番對民眾提出的求助都必須認真處理，為來訪的民眾排憂解難。
日本也面臨交番警察人手不夠的情況，但日本首創了聘請「交番相談員」的制度。相談員大多是退休警察，他們有經驗，能很好的協助交番的警察處理工作，很好的緩解了交番人手不足的問題。
隨著社會的發展，現在日本農村地區的駐在所的數量正在逐漸減少。在過去 10 年中，已經有 800 多個駐在所被淘汰。需要警察進行 24 小時工作的農村地區的駐在所制度，正在逐漸被交番制度所取代。
網絡上流傳過這樣一張照片，照片中一位日本交番警察雙膝跪在一個老太太面前，在和老太太交流什麼。
日本警察跪著辦案並不罕見。尊重別人是日本人的基本道德素質，因此當警察辦案時遇到殘疾人、兒童或者無法站立的老人時，為了避免給人造成居高臨下的感覺，通常會選擇跪著或蹲著，與對方保持平等的視線，以示尊重。
日本警察並不認為蹲著或者跪著為老百姓辦事會有傷身份。因為警察是公務員，他們的工資來自於國民的稅收，自己是國民生命與財產的保護者，並不是凌駕百姓之上的「官吏」，所以尊重國民成為警察的傳統，一代代的傳遞下來。
當然，日本警察只是對國民和藹，面對兇惡的犯罪分子時，日本警察也會有鐵血的一面。
日本匪警、火警、交通報警以及其它需要緊急救助的電話號碼統一為「110」，所的「110」電話都直接和轄區的警察指揮中心相通。接到任何一個方面的報警電話後，警察總部會把指令直接發給相關的警署，警署則會派遣最近的交番警察或巡邏車到達現場。如果遇到惡性犯罪，任何一個接受指令到達現場的社區警察，都有義務配合刑事警察搜查和抓捕犯罪嫌疑人。
日本警察有生活安全、刑事局、交通、警備等四大部門。生活安全部門負責打擊有關市民生活安全、青少年、毒品、環境的違法犯罪，管理特殊行業及槍枝等危險物品，擔負自然災害應急救援等工作。刑事部門負責各類嚴重犯罪的偵查工作。交通部門負責道路交通安全管理。警備部門負責危害國家安全的犯罪偵查、反恐防暴等工作。
日本有著歷史悠久的警民共治犯罪防控體系。這個體系以「交番聯絡協議會」為代表，以警察交番和駐在所為中心，向城市鄉村的每個角落輻射。日本共有一萬多個「交番聯絡協議會」，協議會成員會在交番警察的指導下，就社區居民關心的社區環境、治安防控、防火安全等問題，聽取民間意見，尋求信息交流和居民協助，防止事故和事件發生。
到過日本的朋友，都會發現一個有趣的現象：日本警察在執行任務時，往往會手持一根木棍。這根棍子是幹什麼的呢？
這根棍子肯定不是日本警察站累了拿來靠著休息的，也不像是用來戳路上的流浪狗或者流浪貓的，那它是幹什麼的？
日本警察手中的這根棍子名叫「杖」，長約1.28米，它源自日本的神道夢想流杖術。「神道夢想流杖術」是日本一種傳統的器械套路，而警察則把這種器械套路改良成警用杖法，每個警察上崗前都要接受一定的培訓。
日本這種杖術，有個專門名字，叫做「擬定杖道」，在面對執匕首的罪犯時非常有效果，成為克制匕首的存在。所以，日本警察不到萬不得已不會使用槍枝，他們首先會用「杖」去制服罪犯。這也許是日本人性格中的「一根筋」所致吧。
不過說歸說，日本警察手持木棍上崗，會使日本居民感到更安全，也可以一定程度上起到阻止犯罪的作用。