潛射彈道飛彈直到冷戰時期才問世，但實際上對潛射彈道飛彈最早的技術嘗試遠比之更早。二戰末期，已是強弩之末的德國研發了人類歷史上第一種彈道飛彈V-2並應用於實戰，但V-2的射程僅能確保從歐洲大陸發射覆蓋英國、對遠在大洋彼岸的美國卻構不成任何威脅。為實現打擊美國本土的目的，德國計劃將V-2改為潛射彈道飛彈、並由「U艇」拖曳到美國西海岸附近伺機發射，這是人類歷史最早的對潛射彈道飛彈的設想。與現代發射方式不同的是：按照德國的設計，發射V-2的「U艇」並不對其內部進行大規模改裝，而是在艇身後拖曳一個發射筒，在發射時需要上浮到水面再進行點火。毫無疑問，這種發射方式既不安全又浪費時間，因此直到現在也未採取類似設計。
雖然潛射彈道飛彈的技術可以追溯到「V-2下水」，但目前的潛射彈道飛彈卻與V-2幾乎沒有關係。歷史上第一次由潛艇進行的彈道飛彈發射是1955年9月16日蘇聯海軍的B-67號潛艇在白令海發射P-11ФM彈道飛彈，這種飛彈除了採用液體燃料以外與V-2並沒有什麼關係，另外這次實驗中採用了艇身內置發射筒在水面發射的方式，與海上發射V-2的設想也存在差異。P-11ФM雖然是歷史上第一種潛射彈道飛彈，同目前的潛射彈道飛彈相比，其在設計上的差別卻相當巨大，更類似同時期的陸基彈道飛彈。但由於潛射彈道飛彈特殊的工作環境，到目前潛射彈道飛彈已經同陸基彈道飛彈涇渭分明，其在設計上的一些特徵能很明顯地將其與陸基彈道飛彈相區分。
目前，潛射飛彈水下發射的方法主要有兩種，一種為乾式無動力發射，另一種為乾式有動力發射。
這兩種發射方式的最大不同之處就是其水下運載器的設計不同。前者的運載器被發射出魚雷發射管後，利用發射動力和運載器浮力在水中航行並上浮，當箱體升到水面時，自動拋掉運載器的外殼，同時助推器點火將飛彈推出轉入空中飛行狀態。
與無動力方式相比，有動力發射的運載器尾部裝有火箭發動機、水下控制舵及相關控制設備。通過魚雷發射管發射後，首先進入無動力控制段，在運載器離開潛艇10米後，運載器尾部的火箭發動機點火，將運載器加速0-15秒後，運載器以45度角出水並升空，高度可達20米以上。此時運載器彈出飛彈，助推器點火，飛彈進入空中飛行狀態。
這兩種發射方式各有各的設計難點及作戰優勢。採用無動力運載器發射方式時，為減少運載器在水下的速度損失，保證其出水速度的要求，潛艇只能採用潛望鏡深度發射，隱蔽性要差一點，而採用有動力運載器發射方式則不存在這一缺憾，因此可以在潛艇的全作戰深度內進行飛彈發射，隱蔽性要高一些。
從外觀上看，潛射彈道飛彈最明顯的特徵就是彈頭部分呈「平頭」狀或半球形，這與彈頭錐度很大的陸基彈道飛彈大相逕庭。之所以出現這種設計上的差異，原因在於潛射彈道飛彈多為水下發射，因此要兼顧在水下運動和在空氣中運動的情況，特別是要針對兩種不同的流體力學特徵進行減阻設計。相比於在空氣中運動，在水下運動阻力更大且更容易失穩，因此潛射彈道飛彈的首要任務就是能順利發射出水，故在考慮彈頭減阻問題時更多顧及水下流體力學特徵。而為了能確保在空氣中運動時也能有較好的減阻效果，潛射彈道飛彈往往會通過採用可拋棄式頭罩、加裝伸縮式錐形探針等方式確保潛射彈道的在出水後也能在空氣中保持較好的減阻效果。
潛射彈道飛彈的另一個主要特徵是體積較小，這是由於潛射彈道飛彈需要容納進核潛艇的艇身內部所致。而由於彈體內部容積有限，潛射彈道飛彈為確保射程通常採用固體燃料火箭發動機。因此，相比於同等發射噸位的陸基彈道飛彈，潛射彈道飛彈的射程往往更遠。加之作為載具的核潛艇本身具有一定的機動範圍，因此雖然潛射彈道飛彈體積不大，但射程一般能夠達到洲際級別。現代戰略核潛艇能攜帶12到24枚潛射彈道飛彈，全部發射後總體毀傷能力相當驚人。不過潛射彈道飛彈也有因體積小所帶來的麻煩，其中最難以克服的就是核彈頭搭載數量或爆炸當量較少，需要發射多枚才能抵得上一枚井基洲際飛彈的破壞力，這也是潛射彈道飛彈更適合作為核反擊力量而非第一波核打擊力量的原因之一。
同樣是由於需要由戰略核潛艇進行發射，潛射彈道飛彈在射程範圍上其實是有所限制的。雖然戰略核潛艇具有幾乎無限的續航能力，但真正能夠用於潛射彈道飛彈發射的海域實則少之又少。適合潛射彈道飛彈發射的海域需要同時兼顧深度適中、出現複雜海況次數少、水下無斷層或暗涌等危險水文狀況、便於聯絡通信等條件，並儘量避開敵方搜反潛力量活動範圍和水聲監聽系統範圍，同時還要儘量確保處在己方海軍其他單位作戰範圍內。
從上述條件來看，能確保核潛艇安全執行潛射彈道飛彈發射任務的海域並不多，而這種海域範圍的取捨還要受到潛射彈道飛彈本身射程的影響，所以事實上潛射彈道飛彈的射程與戰略核潛艇的活動海域具有相互制約性。因此，潛射彈道飛彈的發射區域其實是相對固定的，這個矛盾在新一代固體火箭技術實現突破之前可以說沒什麼好的解決辦法。