1942年6月中途岛海战后，美军开始掌握太平洋战场主动权，逐步开始收复日本占据地区，首先瞄准的就是被日本占领的阿图岛，阿图岛上荒芜贫瘠，除了由火山爆发形成、常年积雪覆盖的高山秃岭，便是寸草不生的冻土荒原。这里的气候异常恶劣，一周7天中大约会有6天下雨。1942年春天，日军出兵2500多人占领了阿图岛。等到1943年6月，美军进攻阿图岛时，日军已经苦心经营了一年多，集结了2630人的重兵，修筑了众多永备工事。
美军的进攻十分艰苦，虽然登陆比较顺利，但是由于气候恶劣和地形限制，一方面要在光秃秃的荒原上向40°以上的斜面发起冲锋，另外当时岛上气温接近冰点，很多人不得不因冻伤而截肢。更糟的是，由于冻土地带处于解冻时期，美军车辆陷在泥里寸步难行。只能靠人力拉着火炮前进，甚至排成人龙，手递手地向前线传送弹药和给养。
但日本人已濒临绝境，他们被困在冻土高山上，频繁遭受飞机轰炸和大口径舰炮轰击，伤亡惨重，同时食物将尽，药品被用光。5月29日夜，日军冲下山对美军位于谷地的中心营地发动自杀式攻击，试图夺取美军军火。由于黑暗和大雾，美军被打了个措手不及，此时，500名美国工程兵挽救了危局。这些没有受过多少正规军事训练的工程兵，居然打退了日本人的多次冲锋，守住了那个至为关键的山头，并把日本人逼下了山谷。
绝望之中，弹尽粮绝的日军5月30日在谷地内集体自杀。日军士兵临死前密密麻麻地聚在一起，把手榴弹绑在胸口拉动引信。巨大爆炸过后，死尸残缺不全地叠在一起，惨不忍睹。阿图岛战役结束，2665名驻岛日军只有27人幸存。大多是自杀未遂者。
日军的自杀行为震动了美军士兵，后来，美军曾在一名战死的不知名日本军医身上缴获了一本日记，它记述了日军一步一步选择死亡方式——与其说是“玉碎”的决绝，不如说是绝望后的疯狂。“5月27日，冻雨继续，疼痛刺骨。我们找一切东西让人们安息，吗啡、鸦片、安眠药。医院的屋顶被击穿了。”在5月29日最后一篇日记里，这名军医写道:“今天晚上8点钟，我们全体在总部集合，战地医院也参加了。我们将发动最后一次攻击。医院所有的伤员都被命令自杀，剩下的33个活人和我也将去死；我毫无遗憾。为天皇尽忠。我感到骄傲，因为我此刻内心平静。下午6点，用手榴弹料理了一些伤员……再见，我亲爱的妻子，你爱我到最后一刻。我们的儿子，他只有4岁，他将无法阻挡地长大。可怜的小儿子多喜谷，今年2月才出生，再也不会见到你的父亲了。再见了。今晚发动攻击的人有1000左右。将试图夺取敌人的弹药库，看来他们明天要发动全面进攻了。”
第二天，日本电台报道了阿图岛守军“全员玉碎”的消息，这是日本在战争中第一次在战报上使用“玉碎”一词，也就从这时开始，“全员玉碎”一词开始频频出现在日本政府的公报上。