紋身在日本有著悠久的歷史，最早的紋身樣式記錄發現於公元前5000年的繩紋時代，在描繪臉部和身體圖案的泥人雕像上發現的。紋身在日本的第一個文字記錄是在公元300年左右，在中國的史書中有記載。看來日本的紋身文化頗受中國影響。先秦時代的黥刑就是在犯人臉上刺字以作警示。在古代典籍中，曾出現紋身、鏤身、扎青、點青、雕青等記載。
公元600年左右，紋身在日本的青睞程度有所影響，因為此時的羅馬帝國，奴隸們都會被以紋身標記他們所犯的罪行。大約公元八世紀左右，受中國文化的影響，紋身的人變得稀少。日本的統治階級也逐漸將紋身作為懲罰工具使用，最早將它們明確用作懲罰的記錄是在公元720年，罪犯在額頭上標記紋身，對民眾起到警示作用。這些標記僅用於最嚴重的犯罪。帶有紋身的人被其家人排斥，人們也儘量遠離，被紋身者同樣也受到社會的排斥。
日本的紋身被大眾重新認識是在江戶時代。由於中國四大名著之一的《水滸傳》傳入日本，小說中梁山好漢身上的紋身在日本人看來是英雄的象徵。隨著小說的大受歡迎，很多畫師將水滸中的人物進行畫像，當然也包括他們的身上的紋身，因此帶動了紋身的興起。對於經常從事室外體力勞動的男子來說，在身上紋身是對自己力量最好的體現。當時消防員更是崇尚紋身，除了更好地展現男子氣概，當遇到危險時如果不幸罹難，紋身或許是最好的辨別身份的方法。
各行各業的人們或多或少都開始紋身，在當時產生巨大的影響，許多木刻畫家會轉換其木刻印刷工具，開始在皮膚上創作藝術品。在此期間，紋身成為身份的象徵。據說，當時禁止富商通過珠寶佩戴和展示炫耀財富，因此，他們用紋身裝飾整個身體以展示他們財富。
到17世紀末，對罪犯紋身在很大程度上已被其他形式的懲罰所取代。但是，紋身再次與黑幫有關的原因是，罪犯能夠用更大，更精緻的裝飾紋身掩蓋這些因犯罪而留下的紋身。黑幫成員開始使用紋身，對他們來說，這些紋身在大眾的眼裡成為他們永遠的污點和犯錯的證據。1868年紋身再次被取締。在明治時代，天皇再次禁止紋身，因為他認為紋身令人反感且顯得國民都很野蠻，並有使日本逐漸西化的傾向。而傳統的紋身在民間依舊暗中存在。
1945年無條件投降，隨著美軍和大英國協軍隊的進駐，日本的紋身再次合法化，但日本人眼中紋身者似乎還是些行為不好的人。幾十年間日本人的看法幾乎沒變，他們認為傳統的日本紋身都與日本黑幫有關，因此，現在日本很多公共浴場、健身房和溫泉中心仍然禁止帶有紋身的顧客光顧。日本年輕人受西方文化影響，對紋身持歡迎態度。但在日本社會普遍的共識中，紋身依然是一種不好的符號。