美國駐華軍事將領麥克魯視察74軍的陣地時，看見戰場上橫七豎八地擺放了上千具日軍屍體，感慨地說：「中國軍隊，真是了不起。」
74軍的軍歌由著名作家田漢作詞、著名作曲家任光譜曲，在八年抗戰中，這首歌曲隨著74軍的光輝戰績風靡全國：
「起來，弟兄們，是時候了，我們向日本強盜反攻。他，強占我們國土，殘殺婦女兒童。我們知恥，我們負重，我們是國家的武力，我們是民族的先鋒！我們在戰鬥中成長，我們在炮火里相從。南潯線，顯精忠，張古山，血染紅。我們是國家的武力，我們是民族的先鋒！ 踏著先烈的血跡，瞄準敵人的心胸，我們愈戰愈勇，愈殺愈勇。抗戰必定勝利！殺！建國必定成功！殺！」
74軍作為抗戰王牌師，肩負中國軍隊主力的重任，參加了幾乎所有正面戰場的重大戰役，不斷續寫著可歌可泣的傳奇篇章。在1938年的萬家嶺戰役中，正是這支軍隊幾乎全殲岡村寧次親自指揮的第11軍106師團，斃傷日軍一萬餘名，險些俘虜師團長淞浦淳六郎中將；在上高會戰中，正是這支軍隊作為「決戰兵團」，與日軍11軍展開長達25天之久的激烈戰鬥，擊斃第34師團少將指揮官岩永，重創日軍第33師團。在這場會戰中，74軍共斃傷日軍1.5萬餘名，繳獲無數戰略物資，直接導致第11軍司令官園部和一郎的下台。
1943年11月，常德會戰爆發，74軍57師的8000名官兵奉命阻擊10萬日軍達15天之久，。日軍用盡慘無人道的招數，炮火、毒氣、飛機、坦克輪番上陣，幾乎把整個常德城化作焦土。74軍57師嚴重減員，最後能夠戰鬥的人員只有200名。在這種環境下，師長余程萬發出歷史有名的最後一電：
「彈盡，援絕，人無，城已破。職率副師長、師附、政治部主任、參謀部主任死守中央銀行，各團長劃分區域，扼守一屋，作最後抵抗，誓死為止，並祝勝利。74軍萬歲！」
這一戰役正值美、中、英三國首腦聯合舉行的開羅會議期間，美國總統羅斯福認真聽取了蔣介石關於常德會戰的介紹，特意將余程萬的名字記在備忘錄上。1944年3月，為紀念在常德這片土地上犧牲的74軍將士，常德人民自發募捐，在青年路東側修建了占地達3萬平方米的陣亡將士墓地，以示永不忘恩德。
1945年5月，74軍在雪峰山一役中重創日軍，再次打出「抗日鐵軍」的雄風，為中國軍隊取得湘西大捷立下顯赫戰功。美國駐華軍事將領麥克魯視察74軍的陣地時，看見戰場上橫七豎八地擺放了上千具日軍屍體，感慨地說：「中國軍隊，真是了不起。」隨後，他還代表美國政府向74軍一位榮立戰功的班長頒發了一枚美國銀質自由勳章。
1945年8月15日，日本宣告無條件投降。74軍乘飛機前往南京受降，並負責南京守備，這支抗戰時期國民黨黃埔系的第一主力，從此被稱為「御林軍」。國民黨整軍會議後，第74軍改編為整編74師，由張靈甫出任師長，轄51旅、57旅、58旅共3萬餘人。此時的整編74師已是全新的美械裝備，連長期負責訓練的顧問都是美國人，因此被認為是國民黨部隊五大主力之一。
在74軍的歷史上，俞濟時、王耀武、施中誠、張靈甫四人先後出任軍長或整編師長。首任軍長俞濟時是黃埔一期畢業，做過蔣的貼身侍衛，一說是蔣介石的外甥，深得蔣的信任。因為這層關係，74軍自建軍起就得到蔣介石的格外偏愛，在兵員、裝備、經費方面得到額外照顧。更有甚者，這支部隊的基層軍官都由軍校畢業生擔任，這些都是其他部隊可望而不可及的。1949年，俞濟時隨蔣介石去了台灣，1990年在台北去世。
第二任軍長的王耀武更非凡夫俗子，74 軍在他的率領下，參加了抗日戰爭正面戰場上幾乎所有的重大戰役，獲得了「抗日鐵軍」的美名。他任期內74軍處於顛峰，下設三個滿員師共5萬餘人。王耀武從小家境貧苦，曾在商店裡做學徒，後來向別人借錢考入黃埔軍校第三期，在國民革命軍的東征、北伐中屢立戰功。他平時治軍甚嚴，經常當眾打罵有過錯的部下。
國共第二次內戰時，王耀武說過一句值得玩味的話：「如果是抗戰，就要拚死到底，但現在是內戰，沒必要付出生命。」內戰被俘後，王坐了十多年的牢。 1959年2月，因抗日有功成為第一批被特赦的戰犯之一，1968年因病去世。
施中誠憑著資歷繼任74軍軍長，完全被前任的光環所遮蔽，也不如部下張靈甫、余程萬的名聲顯赫。他之所以能在中央嫡系的第74軍站穩腳跟，自然也有其獨到之處。他任期內最值得稱道的一件事情，莫過於將第74軍全部換成了美械裝備。大陸解放前，施中誠舉家遷往台灣，1983年在美國洛杉磯去世。
張靈甫曾就讀於北大歷史系，品行端正，律己甚嚴，任團長期間因轟動全國的殺妻事件被蔣介石判為死刑，關進南京陸軍監獄。抗戰全面爆發後，王耀武提議讓張上前線戴罪立功，蔣同意了這一請求。張靈甫在凇滬戰役中擔任第305團團長，每仗身先士卒，浴血拚殺。此後連續八年對日血戰，多次負傷不下火線，取得了輝煌的抗戰功績。1947年5月16日，在孟良崮戰役中陣亡，時年45歲。
第74軍的興衰正是國民黨在大陸興衰的寫照。 國共內戰中，這支「抗日鐵軍」追隨蔣介石加入反人民的陣營，走上了與人民對抗的不歸路。該部作戰勇猛， 「打死不繳槍」，哪怕集體陣亡也在所不惜。1947年5月，整編第74師在山東南部的孟良崮被解放軍圍殲。聽到此消息，蔣介石一連多日萎靡不振，極為哀傷地說：「74軍的覆沒是最痛心、最惋惜的一件事。」
1949年，盧漢接手恢復番號和多次整編的第74軍，並於12月12日發動昆明起義。第74軍回到人民軍隊的大家庭中，改番號為暫編雲南人民解放軍第12軍，併入雲南軍區部隊。至此，在抗戰中名震中外的第74軍退出歷史舞台。