百式衝鋒鎗作為日本陸軍在第二次世界大戰中唯一量產的衝鋒鎗，由於日本人因循守舊的作戰思想，而成為了士兵們的麻煩。該槍全長約900毫米，裝彈量為30發，射速700發/分，安裝有刺刀，採用自由槍機原理，仿照德國MP-34衝鋒鎗，十分容易走火。
抗日戰爭期間，日本儘管在工業水平上比當時的中國強大得多，但和其他歐美列強比，實在就差遠了。日本陸軍的輕武器十分落後，除了幾種輕機槍以外，沒有幾個是自動武器,而美軍、德軍和蘇軍都有衝鋒鎗和半自動步槍，甚至連中國國民黨軍嫡系部隊也裝備了不少先進的歐洲產自動武器。其實，日本人也曾想裝備普及化的自動槍，百式衝鋒鎗就是其中最鮮為人知的嘗試。
1935年，侵華日軍在實戰中領教中國軍隊衝鋒鎗的威力後，方才開始試製衝鋒鎗。當時是由中央工業公司的南部槍械廠具體負責這一工作，試製人員將其稱為南部式衝鋒鎗，其彈夾可放置50發子彈。彈夾呈弧線形，插在槍的下面，其形狀類似香蕉。
隨著試製工作的進展，彈匣逐漸被移至左側面並呈水平狀，這與後來的英國司登衝鋒鎗很像，這是為了臥射時更方便，這一設計方法在世界上是不多見的。最後該槍於1940年定型，正值日本神武紀年1000年，所以起了「百式衝鋒鎗」的名稱，於1941年2月起裝備部隊。它共分為前期型、後期型和摺疊槍托型三種，產量分別是1000、1萬和數百支。
百式衝鋒鎗採用自由槍機原理，由於該槍始終處於沒有保險的開膛待機狀態，因此走火的危險很大，其槍機組件仿照德國MP-34衝鋒鎗。該槍全長約900毫米，槍管長280毫米，槍重4.2公斤，裝彈量為30發，射速700發/分。
百式衝鋒鎗的三種型號均裝有雙腳架，其準星是切線型的，從50-600米之間，每50米的射程為一個刻度。從這一角度也不難看出，當初日本軍隊主要是想以其來替代輕機槍。到後期槍身下不再裝有刺刀柄，而是直接裝在槍頭部位，準星也變得更為簡潔並予以固定，雙腳架也被取消了。
與此同時，彈匣也變得更加結實，當然因此也就無法與早期的衝鋒鎗互換彈匣。這種後期槍型也可稱為實戰型，它主要是為了使生產工序更簡單。最後的摺疊槍托型是將早期的槍托在衝鋒鎗的結構後端形成折頁式可以對摺，主要配備日本海軍的空降部隊。所有類型的衝鋒鎗在外觀上的共同點，就是槍身外附有散熱孔。
百式衝鋒鎗還安裝了刺刀，這在其他國家的衝鋒鎗中也是很罕見的。因為與步槍相比，其槍身較短，開始還曾考慮加長槍身，但最終並未採用，於是便在槍身下裝上了刺刀柄。設計衝鋒鎗的根本指導思想，就是通過紛飛的彈頭和連續擊發所產生的火焰給對方以威懾。但日軍卻總是在戰鬥的最後階段裝上刺刀，由此也不難看出日本陸軍對白刃戰的執著。
百式衝鋒鎗主要裝備海軍陸戰隊、傘兵和騎兵的護衛隊，還是實驗性質的。
第一次正式作戰是在太平洋戰爭初期對印尼巨港油田的傘兵突擊，但是此時傘兵用款式尚未正式配發，傘兵仍然無法在降落時攜帶衝鋒鎗而是必須在降落後撿拾空投下來的武器箱，作戰中日軍傘兵來不及回收武器箱就以手上的手槍以及手榴彈直接對荷蘭部隊突襲，因此百式衝鋒鎗的實質效益並不明顯，隨後傘兵部隊因為戰況陷入膠著而沒有投入作戰。
第二次比較明顯的作戰為沖繩戰役期間由傘兵部隊所進行的義號作戰，突擊隊大量裝備了百式衝鋒鎗作為單兵標準武器，作戰中突擊隊雖然成功的癱瘓美軍機場3天運作，但是整場作戰中美軍僅傷亡20人，突擊隊卻死亡50人以上。百式衝鋒鎗的火力在這場作戰中造成不成比例的損傷，為其威力打上一個很大的問號。
實驗得出的結論是日本不適合裝備衝鋒鎗，所以一直沒有將衝鋒鎗列為步兵標準武器。其原因有二：
一是日軍戰術嚴重落後，還認為步槍打得准，所以寧可保證步槍和彈藥的質量（其實連這個也沒有做到），也不浪費寶貴資源造衝鋒鎗（衝鋒鎗對彈藥的需求量遠遠超過步槍，而且不及步槍准。
二是日本工業生產力有限，無法大量的製造衝鋒鎗和彈藥，加之百式衝鋒鎗價格昂貴，是三八式步槍的三倍，大體相當於一挺輕機槍的價格，並不適合大量生產。和日軍正好相反的是蘇軍，蘇軍二戰時的衝鋒鎗產量最髙，使用最廣泛，前線的步兵幾乎都放棄了步槍而改用衝鋒鎗。原因也很簡單，蘇軍對德作戰是靠人海戰術和武器數量優勢，需要不間斷的用新兵補充戰場損失。所以蘇軍士兵接受的訓練時間很短，不可能去花時間練習槍法。而且對新手而言，衝鋒鎗要比步槍好用多了，製造過程也不那麼講究，因此非常適合蘇聯的國情。