1940年8月20日，华北各地的八路军遵照八路军总部的命令，对日军所控制的各主要交通线发起了破袭，因为我军参战部队超过了一百个团，所以这次行动又被称为'百团大战'。百团大战共分为三个阶段，前两个阶段，八路军主要以破袭日军交通线和据点为主，而第三阶段，则是以反击日军扫荡为主。
八路军
八路军的百团大战在第一和第二阶段取得了空前的胜利，我军不仅歼灭了大量敌人，还粉碎了日军对我华北各根据地的封锁。到了1940年10月，我军已经基本完成了八路军总部所制定的战略计划。因为我军的大突袭，华北日军损失惨重。为了改变这一颓势，华北日军方面军总司令多田骏叫嚣着要对我根据地进行大规模扫荡。
从10月6日开始，华北日军调集了数万军队开始向各根据地进行报复性 '扫荡'，与以往的'扫荡'不同，这次日军的扫荡手段极为毒辣。他们不仅疯狂屠杀根据地的平民百姓，就连老百姓用的锅碗瓢盆也被砸得稀巴烂。日军所到之处一片焦土，八路军的许多地下组织也被日军摧毁。为了改变这一状况，八路军总部决定对日军实行反扫荡战斗。
1940年10月19日，八路军总部正式向华北各部下达了'反扫荡'任务。根据八路军前敌总指挥彭德怀和总参谋长左权的要求，八路军各根据地要采用党政军民相互配合的方式，积极开展广泛的游击战。为了严格落实命令，彭德怀甚至离开八路军总部，到各抗日根据地视察，而华北八路军各部也都做好了时刻歼敌的准备。
关家垴之战是百团大战第三阶段的一次重大战役，此战我军虽然伤亡惨重，但也打击了日军的嚣张气焰。关家垴战役后，日军再也不敢贸然深入我军根据地。单纯从双方的兵力来看，无疑我军占据着绝对优势，但是由于我军装备太差，再加上日军占据了地形优势，所以才未能消灭这股孤立之敌。抗日战争期间，尤其是在抗战前期，中国与日本之间存在着巨大的实力差距，这种差距在战场上表现得更为明显，关家垴之战就充分说明了这一点。
在关家垴之战中，尽管我军付出了巨大的伤亡，却未能全歼日军，因此这一战役历来充满着争议。有人认为我军不应该不顾敌我双方军事力量上的差距，而贸然进攻日军，但是也有人持赞成的态度。其实，彭德怀在不利的形势下仍坚持消灭这股孤立之敌，有着他更深一层的打算。
在抗日战争前期阶段，日军仰仗着装备上的优势，在战场上表现得相当骄横。他们每次扫荡，一般以一个大队（辅以伪军）就敢深入我军抗日根据地腹地，其骄横之态可见一斑。如果我军能够寻机给与其重创（或歼灭一个大队），就可以在打击敌人嚣张气焰的同时，迫使日军在下次扫荡时，不敢再以大队为单位。这样日军扫荡的频次和时间间隔就会扩大，有利于我军民的转移。另一方面，黄崖洞兵工厂位于我军根据地腹地，如果让冈崎大队轻易地逃走，以后日军将会更加嚣张，而且我军在政治上也会陷于不利的境地。此战过后，日军再也不敢以少量部队就贸然进入我军根据地腹地，可以说彭德怀的意图已经实现。