50年代中後期，蘇軍認為當時的地空飛彈已經成為戰術轟炸機的大威脅，於是開啟了新的戰術轟炸機研製，旨在以超音速狀態實現戰術突防，替換掉原來老舊的亞音速戰術轟炸機。
雅克-28在1958年3月5日實現首飛，是一款性能先進的多用途戰機。飛機採用較大面積的45°後掠角機翼，單垂尾，水平尾翼安裝在垂尾的中段位置，在兩側機翼下布置長長的發動機艙，主起落架為少見的自行車式，在翼尖的整流罩內還收納了另外兩隻輔助輪。
在首飛中，飛機安裝的R-11A-300渦輪噴氣發動機動力不足，無法達到期望的飛行高度和速度，隨後換裝了新的發電機，進氣口安裝可伸縮的激波錐，飛機更名為雅克-28-2，經過改動的飛機在隨後的飛行中表現可觀，還進行了模擬載彈1500千克的超音速轟炸。
首批量產的雅克-28轟炸機空重約11000千克，以3000千克載彈量起飛重量15000千克，機長20.65米，高3.95米，翼展11.64米，最大飛行速度1890千米每小時，最大航程2630千米，最大滯空時間超過2小時。
雅克-28機身內安裝2門NR-30型30毫米機炮，主機體內有內置彈艙，還有外部掛架，可以攜帶常規炸彈和火箭彈。
飛機在服役後也沒有閒著，先後研製出了多種衍生機型，僅戰術轟炸機這一大型號就有安裝瞄準雷達的雅克-28B、安裝地面控制目標系統的雅克-28L、安裝360°地形測繪的雅克-28I等，另外還考慮製造短距起降戰機，被稱為雅克-28UVP原型機。
雅克-28I又衍生出一款戰術偵察機，額外安裝了Initsiativa-2雷達，以及一些其他的必須的設備，總共生產了183架。雅克-28SR是另一款戰術偵察機，它安裝了主動雷達/無線電干擾設備，生產數量很少。雅克-28TARK則是一種安裝了電視偵察系統的偵察機，它的攝像頭圖像可以實時傳遞迴地面指揮中心，它還有一台靜態相機供拍攝。
雅克-28P是一款遠程截擊機，在1964年投入使用，為了達到作戰所需的大航程，飛機的內置彈艙被取消，改為一個容量巨大的油箱，機頭內安裝Oriol-D雷達，可以使用R-98空空飛彈，這款截擊機從1967年開始生產，總產量435架，它們被使用到80年代，之後部分飛機原本等待維修打算繼續服役，因為財政問題一直拖著，到了90年代時已經不用修了。
既然是一個型號繁雜的戰機家族，雅克-28系列完全配擁有專業的教練機，雅克-28U就是一款雙控教練機，在原先機鼻處增加一個駕駛艙，專門供學員使用，自1962年開始生產了183架。
除了上述機型之外，雅克-28還發展出雅克-28RR核環境偵察機、雅克-28PP電子對抗機等其他少見的機型，雖然整個系列飛機加起來只有一千多架，但是飛機型號繁雜，幾乎除了艦載機、大型轟炸機這些實在是沒辦法乾的差事，雅克-28系列飛機在其他方面均有涉獵，是實實在在的空中多面手，曾參與到阿富汗地區的作戰行動。