與近現代手榴彈不同的是，早期的手榴彈是網球那麼大的裝滿黑色火藥的鑄鐵鐵球。由於黑色火藥爆炸力較弱，只有有限的殺傷效果。而且早期的手榴彈操作難度很高，在沒有火柴的年代需要用火種先點燃引線然後由這些擲彈兵們接近敵軍陣列後投擲。

這種手榴彈扔早了和扔晚了效果都會大大打折。若剩餘引信過長敵軍則會撿起手榴彈反扔回己陣，而扔晚了則會將在半空爆炸，達不到殺傷效果甚至會誤傷戰友。

因此投擲手必須要身強體壯、臂力驚人，才能夠將這些鐵疙瘩投擲到足夠遠的敵軍陣列中以免破片擊傷戰友及自己，更重要的是投擲手榴彈時需要極大的勇氣和極高的戰術素養。這樣由精兵強將組成的專職部隊，則被視為精銳的戰鬥力量。

17世紀中後期，各國步兵普遍戴寬檐帽，這不適合投擲手榴彈。因為投擲出去的手榴彈可能會被位於前列的士兵所戴的寬檐帽所攔下，並且為了區分這些精銳士兵和普通步兵的區別，所以各國的擲彈兵在更多的採用斜頂帽或主教冠樣式的帽子。

18世紀普魯士擲彈兵所佩戴的斜頂帽

18世紀中後期，隨著線列步兵戰術的發明以及榴彈炮、燧發槍等遠距離殺傷武器的普及，手榴彈的地位有所動搖。雖然手榴彈的運用範圍被大大縮小，但是各國意識到，軍隊中組建精銳的突擊部隊能夠完成普通步兵無法完成的任務，所以編入各步兵團的擲彈兵連並沒有隨著手榴彈地位動搖而解散。但是由於不再強調擲彈能力，部分國家不再對加入擲彈兵的兵員有身高的要求。

這一時期英國陸軍方面則是更傾向於聘請經驗豐富的退伍軍人加入各團的擲彈兵連。在這一時期，擲彈兵的主要任務從單一的投擲手榴彈轉變為做好準備隨時攻入敵陣短兵相接。

而隨著訓練和步兵戰術的標準化，部分國家認為團屬獨立擲彈兵連已經不符合時代，因此在19世紀中葉，英國、法國、奧地利等國軍隊在1850年至1862年間逐漸取消了獨立擲彈兵的編制。

但是各國的精銳步兵部隊則保留或採用了擲彈兵一詞，例如普魯士波茨坦擲彈兵，英國的擲彈兵衛隊和英屬印度軍隊的第101擲彈兵團以及俄羅斯帝國的帝國衛隊。但是這些成建制的擲彈兵團的訓練和其他單位並無兩樣。從此，擲彈一詞不再與手榴彈相關，擲彈兵的這個稱號也從一個兵種，逐漸轉變為象徵著榮譽、精銳及悠久歷史的符號了。

名不符實的擲彈兵

20世紀初期，隨著火炮及槍械的繼續發展，各國部隊的火力大大提高，而機動力及通訊能力卻沒有大幅提高。因此在一戰時，塹壕戰成為了個代表性的名詞。為了降低傷亡率，保存作戰力量，參戰雙方都會挖掘低於地面能夠提供掩護防止火炮彈片殺傷的戰壕。

被視為現代手雷鼻祖的米爾斯手雷

在此情況之下，各國意識到前線需要一款簡單可靠，可以由步兵自己掌控的曲射火力。時隔兩個世紀後，手榴彈再次大放光彩。而在一戰時裝備了各國部隊，有現代安全裝置的手榴彈與早期手榴彈相比，操作大大簡化。因此從一戰起，手榴彈不僅僅配發給承擔突擊任務的擲彈兵部隊或突擊部隊，更多地配發給了普通步兵。

二戰中後期，德軍為鼓舞步兵士氣並且延續普魯士軍隊的傳統，將所有步兵團更名為擲彈兵團，因此配屬於步兵師的步兵也全部更名為擲彈兵。但是配屬於裝甲師中的步兵團則被稱為裝甲擲彈兵團，摩托化步兵師也一併更名為裝甲擲彈兵師。

乘坐半履帶車的裝甲擲彈兵

值得一提的是，每當提起裝甲擲彈兵的時候大多數人總會第一時間聯想到Sd.Kfz. 251半履帶裝甲車行進的模樣，但實際上裝備了半履帶裝甲車的部隊不到全數的百分之十，剩下的部隊依舊是靠著大量的騾馬和少量的卡車還有擲彈兵們的雙腿進行機動。所以，所謂的裝甲擲彈兵可以說是裝甲擲彈兵既不裝甲，又不擲彈。

在戰爭尾聲的1944年，德軍由於在諾曼第和白俄羅斯方面頻頻失利造成大量兵員缺口，急需大量能夠執行防禦任務的步兵來填補空缺。因此緊急組建了由海空軍地勤人員、老兵、士官及軍官、各醫院治癒完畢的傷兵，以及不符合服役年齡尚未入伍的國民所構成的國民擲彈兵師。這些國民擲彈兵師的質量參差不齊。

現代的擲彈兵

1961年，一款提供了填補迫擊炮及手榴彈的火力空白的武器——M79榴彈發射器被交付給美國陸軍。這款武器易用、可靠，並且能將40mm各式榴彈投擲到最遠350米的距離，因此在美國士兵中大受歡迎，被親切地稱為排長的火炮。每個班裝備了M79的士兵，在美國陸軍中則被稱呼為擲彈兵。而裝備了M79後繼者M203下掛榴彈發射器的士兵也延續了這個傳統，被稱為擲彈兵。

2012年德國陸軍裝甲擲彈兵班

曾經大量使用裝甲擲彈兵稱號的德國，在1955年新成立的聯邦德國國防軍中繼續使用。現代德國國防軍的裝甲擲彈兵，不再是二戰時期頂著裝甲的名號而乘坐汽車甚至用雙腿機動的部隊，而是實打實的重機械化步兵，乘坐步兵戰車與坦克和其他裝甲車輛一同執行戰術任務。在其他國家，成建制的擲彈兵與其他類似單位的訓練也並無兩樣。