1940年8月20日，華北各地的八路軍遵照八路軍總部的命令，對日軍所控制的各主要交通線發起了破襲，因為我軍參戰部隊超過了一百個團，所以這次行動又被稱為'百團大戰'。百團大戰共分為三個階段，前兩個階段，八路軍主要以破襲日軍交通線和據點為主，而第三階段，則是以反擊日軍掃蕩為主。
八路軍
八路軍的百團大戰在第一和第二階段取得了空前的勝利，我軍不僅殲滅了大量敵人，還粉碎了日軍對我華北各根據地的封鎖。到了1940年10月，我軍已經基本完成了八路軍總部所制定的戰略計劃。因為我軍的大突襲，華北日軍損失慘重。為了改變這一頹勢，華北日軍方面軍總司令多田駿叫囂著要對我根據地進行大規模掃蕩。
從10月6日開始，華北日軍調集了數萬軍隊開始向各根據地進行報復性 '掃蕩'，與以往的'掃蕩'不同，這次日軍的掃蕩手段極為毒辣。他們不僅瘋狂屠殺根據地的平民百姓，就連老百姓用的鍋碗瓢盆也被砸得稀巴爛。日軍所到之處一片焦土，八路軍的許多地下組織也被日軍摧毀。為了改變這一狀況，八路軍總部決定對日軍實行反掃蕩戰鬥。
1940年10月19日，八路軍總部正式向華北各部下達了'反掃蕩'任務。根據八路軍前敵總指揮彭德懷和總參謀長左權的要求，八路軍各根據地要採用黨政軍民相互配合的方式，積極開展廣泛的游擊戰。為了嚴格落實命令，彭德懷甚至離開八路軍總部，到各抗日根據地視察，而華北八路軍各部也都做好了時刻殲敵的準備。
關家堖之戰是百團大戰第三階段的一次重大戰役，此戰我軍雖然傷亡慘重，但也打擊了日軍的囂張氣焰。關家堖戰役後，日軍再也不敢貿然深入我軍根據地。單純從雙方的兵力來看，無疑我軍占據著絕對優勢，但是由於我軍裝備太差，再加上日軍占據了地形優勢，所以才未能消滅這股孤立之敵。抗日戰爭期間，尤其是在抗戰前期，中國與日本之間存在著巨大的實力差距，這種差距在戰場上表現得更為明顯，關家堖之戰就充分說明了這一點。
在關家堖之戰中，儘管我軍付出了巨大的傷亡，卻未能全殲日軍，因此這一戰役歷來充滿著爭議。有人認為我軍不應該不顧敵我雙方軍事力量上的差距，而貿然進攻日軍，但是也有人持贊成的態度。其實，彭德懷在不利的形勢下仍堅持消滅這股孤立之敵，有著他更深一層的打算。
在抗日戰爭前期階段，日軍仰仗著裝備上的優勢，在戰場上表現得相當驕橫。他們每次掃蕩，一般以一個大隊（輔以偽軍）就敢深入我軍抗日根據地腹地，其驕橫之態可見一斑。如果我軍能夠尋機給與其重創（或殲滅一個大隊），就可以在打擊敵人囂張氣焰的同時，迫使日軍在下次掃蕩時，不敢再以大隊為單位。這樣日軍掃蕩的頻次和時間間隔就會擴大，有利於我軍民的轉移。另一方面，黃崖洞兵工廠位於我軍根據地腹地，如果讓岡崎大隊輕易地逃走，以後日軍將會更加囂張，而且我軍在政治上也會陷於不利的境地。此戰過後，日軍再也不敢以少量部隊就貿然進入我軍根據地腹地，可以說彭德懷的意圖已經實現。