日本武士，最早可考证历史是在七世纪中期，大化改新之后，日本为了模仿唐朝府兵制，让成年男性服兵役，后来采用志愿兵的形式，这些志愿军后来负责国府的警备与安全。
至于为什么会出现武士，一方面是当时日本模仿唐朝的均田制，按照人口来平分土地，但是随着人口的增加，就没有那么多土地了。于是鼓励垦田，根据身份地位，开垦一定数量的土地就可以永久私有。这些土地慢慢就变成了庄园，于是就有了领主。这些领主为了保护自己的财产，雇佣一些武人，这就是后来武士的由来。
另一方面，还有些贵族，为了巩固与皇权的关系，于是把女儿嫁给天皇，这就导致皇子皇孙成群。为了维持他们的生计，把这些皇子皇孙降为臣籍贯，放到地方做官，即使任期满了也不能回京城。这些皇子皇孙于是就圈占土地，为了保护自己的土地，他们养的武人逐渐成了地方武装。
随着武人的增多，他们按照血缘、主从关系结成了大小不一的武人军团。最开始他们只是一些小的军事组织，族长为这些军事组织的首脑，家人是武士，随从就是侍奉武士的农民。通常这些武士都会有三个仆人，一个帮忙拿武器，一个拿铺盖卷，一个拿随行食物。
后来这些武士扩大了自己的势力，各个庄园之间形成了联盟，逐渐演变成为武士集团，一般需要中央贵族出身的，任大领主首领。比如历史上有名的源氏集团，就是天皇的后代。
武士集团形成以后，中央贵族认识到这些地方武装的厉害，于是采用招安的方式，让这些武士成为贵族的侍卫或者国府的兵士。天皇为了打击贵族，逐渐依靠这些武士，比如11世纪，天皇为了打击藤原家族，便利用北面武士，并且形成了院政政治。
院政政治在武士支持下持续了近百年，源、平两家武士集团卷入了皇室的斗争，最初平氏家族获胜，几乎杀掉源氏家族的全部成员，13岁的源赖朝被流放到伊豆半岛，在他长大成人之后，联合其他武士集团对平氏政权发起进攻，最终彻底打败平氏。之后天皇任命源赖朝为征夷大将军，成立了镰仓幕府。
镰仓幕府就任用这些武士对地方进行统治，他们负责督促土地耕种者向领主或者国衙缴纳赋税，同时也镇压农民起义以及追捕强盗、维护本地治安等工作。本来这些武士只是各地的领主，但是镰仓幕府为了得到他们的长期效忠，明确承认他们的土地所有权，另外根据战功奖励新的领地，为此这些武士都无条件服从镰仓幕府。
因为这种君主与武士的关系，形成了武士道-约束武士道德规范的行动准则。其实武士道精神并不是固定不变的，随着时代的发展，其武士道精神也在不断的变化。
在镰仓幕府时期，武士道要求向公背私，不得超越自身的权力；到了战国时代，因为旧主、新主不断的变换，武士们从自身的利益出发，强调勇猛、自我献身，不再是为君主效忠。但是在和平年代，武士被迫转型成为行政官吏，因此要求他们具备治民的才干。因此那种宣扬以死效忠的愚忠被主流文化所抛弃，其核心思想著作《叶隐》也被列为禁书。
到了侵华时期，这本《叶隐》再次被提及，鼓励平民百姓要为天皇献身，形成了日本特色的法西斯精神。
所谓的武士道精神就是关于武士的道德伦理体系，其中主要包括忠义、勇敢、仁爱、克己等。
忠义：武士道所提出的忠义是指即使再爱自己的家人，爱惜自己的身体，也要牺牲家人和自己去保护主人。和儒家的忠君、孝道相似，武士道精神认为，即使父母没有道德不值得去爱，儿女也必须孝敬父母。
勇敢：日本武士道对于勇敢分为两个派别，一派是士道派，强调文武兼修，用道德约束自己；另一派就是《叶隐》派，这种勇其实是匹夫之勇，比如二战时期神风特攻队，用人肉炸弹的形式冲向敌舰。
仁爱：这里的仁爱，和中国儒家仁爱非常相似，但是日本后来近乎野蛮的滥杀无辜却和儒家的仁爱背道而驰。因此在日本著名政治家新渡户稻造《武士道》一书中，也没有很好解释这一现象。新渡户稻造被认为是日本重要的思想家，印在日本5000元的钞票上。
克己：日本武士道强调要用训练的方式控制自己的感情，内心可以情感丰富，但是不能喜怒于色。明朝时朱元璋下令，对走出寺庙的游僧进行严厉打击，甚至死刑，防止这些寺僧蛊惑百姓。这些寺僧远渡日本，把佛教中的禅带入日本。因此日本武士道精神要求用禅定的方式，训练自己。
切腹：在日本人看来，腹部是灵魂的归宿，切腹是让自己的灵魂能够呈现出来，获得外界清白的评判。虽然我们看起来非常残忍，但是日本人认为这是高尚道德之人的死亡方式。
日本的武士道和中国的侠义道在生活方式上，就有很大的区别，武士是要依附于贵族集团的，而中国的侠客，一直都是游离于权力集团之外。比如秦国时期的法家就认为“儒以文乱法，侠以武犯禁”，侠客和儒家一样，都是扰乱社会秩序的危险分子，要进行严厉打击。
到了明清时期，侠客更是处于社会底层，游离于与主流社会之外。古代把百姓分为士农工商，这些侠客不在四民的主流里，甚至都不再算卦相面，行医卖药，杂技马戏等这些“下九流”范围内，代指那些诈骗和盗窃的乌合之众。
江户时代，日本社会分为士农工商，这里的“士”就是指武士，他们大约占到当时整个日本人口的1/10到1/5。而且再低等的武士阶级也是领导阶层，属于统治阶级。这些武士不仅仅做一些安防保卫的工作，而且还有做文案，当会计的。
这些武士必修课还包括练武，每年都会接受考核，能不能涨工资就要看考试成绩了，所以和平时期，他们都非常重视习武。而中国的武侠中那些侠客，都是后来文人臆想出来的，和真实的江湖相差比较大。
曾经有人问金庸先生，他笔下那些侠客是如何生活的，走南闯北，而且还不用担心盘缠问题。其实这些武侠小说就好比童话故事，在梦境里，我们哪管那么多真实，我们需要的是从侠客故事中获得童话般的慰藉。
新文化运动的时候，流亡日本的梁启超写了一本《中国之武士道》。想借由对日本武士道的推崇，唤醒中国的尚武精神。当时人们认为中国文人长期受到儒家思想的影响，习武的人群逐渐消失，从秦汉以后，中国就是“无兵的文化”。要知道在春秋时期，孔子教学生六艺，有一半是习武道的技能。
而日本的武士衰落的比较晚，因此保留的就比较多。明治时期，随着武士阶层的消失，没有人再提及武士道精神。但是到了近代，特别是甲午战争之后，武士道精神再次被一些军国主义者提及，并不断宣扬及美化，主张为国献身。他们主张武士的价值，像樱花一样，不在乎盛开，要追求像樱花一样凋谢，用自己献身精神，强大的耐力，服从集体。