纹身在日本有着悠久的历史，最早的纹身样式记录发现于公元前5000年的绳纹时代，在描绘脸部和身体图案的泥人雕像上发现的。纹身在日本的第一个文字记录是在公元300年左右，在中国的史书中有记载。看来日本的纹身文化颇受中国影响。先秦时代的黥刑就是在犯人脸上刺字以作警示。在古代典籍中，曾出现纹身、镂身、扎青、点青、雕青等记载。
公元600年左右，纹身在日本的青睐程度有所影响，因为此时的罗马帝国，奴隶们都会被以纹身标记他们所犯的罪行。大约公元八世纪左右，受中国文化的影响，纹身的人变得稀少。日本的统治阶级也逐渐将纹身作为惩罚工具使用，最早将它们明确用作惩罚的记录是在公元720年，罪犯在额头上标记纹身，对民众起到警示作用。这些标记仅用于最严重的犯罪。带有纹身的人被其家人排斥，人们也尽量远离，被纹身者同样也受到社会的排斥。
日本的纹身被大众重新认识是在江户时代。由于中国四大名著之一的《水浒传》传入日本，小说中梁山好汉身上的纹身在日本人看来是英雄的象征。随着小说的大受欢迎，很多画师将水浒中的人物进行画像，当然也包括他们的身上的纹身，因此带动了纹身的兴起。对于经常从事室外体力劳动的男子来说，在身上纹身是对自己力量最好的体现。当时消防员更是崇尚纹身，除了更好地展现男子气概，当遇到危险时如果不幸罹难，纹身或许是最好的辨别身份的方法。
各行各业的人们或多或少都开始纹身，在当时产生巨大的影响，许多木刻画家会转换其木刻印刷工具，开始在皮肤上创作艺术品。在此期间，纹身成为身份的象征。据说，当时禁止富商通过珠宝佩戴和展示炫耀财富，因此，他们用纹身装饰整个身体以展示他们财富。
到17世纪末，对罪犯纹身在很大程度上已被其他形式的惩罚所取代。但是，纹身再次与黑帮有关的原因是，罪犯能够用更大，更精致的装饰纹身掩盖这些因犯罪而留下的纹身。黑帮成员开始使用纹身，对他们来说，这些纹身在大众的眼里成为他们永远的污点和犯错的证据。1868年纹身再次被取缔。在明治时代，天皇再次禁止纹身，因为他认为纹身令人反感且显得国民都很野蛮，并有使日本逐渐西化的倾向。而传统的纹身在民间依旧暗中存在。
1945年无条件投降，随着美军和英联邦军队的进驻，日本的纹身再次合法化，但日本人眼中纹身者似乎还是些行为不好的人。几十年间日本人的看法几乎没变，他们认为传统的日本纹身都与日本黑帮有关，因此，现在日本很多公共浴场、健身房和温泉中心仍然禁止带有纹身的顾客光顾。日本年轻人受西方文化影响，对纹身持欢迎态度。但在日本社会普遍的共识中，纹身依然是一种不好的符号。