布瓊尼1883年4月25日出生在俄國南部羅斯托夫州科久林村的一個貧農家庭，因童年貧苦、辛酸的生活，造就了布瓊尼開朗、勇敢、堅毅的性格。從1903年20歲應召入伍到1973年逝世，在70年的軍旅生涯中，他參加包括日俄戰爭、俄羅斯內戰以及兩次世界大戰在內的四次大戰爭，三次獲「蘇聯英雄」稱號。布瓊尼的一生與蘇聯軍事歷史有著不可分割的聯繫，是人類歷史上最後一個著名的騎兵統帥。
早年參加日俄戰爭
1903年布瓊尼應徵入伍，成為一名光榮的騎兵戰士。1904年日俄戰爭爆發，他隨頓河哥薩克騎兵第46團來到中國東北參加了日俄戰爭(日俄戰爭是大日本帝國和俄羅斯帝國為爭奪朝鮮半島和中國東北而進行的戰爭，日俄戰爭不僅是對中國神聖領土主權的粗暴踐踏，而且也使中國東北人民在戰爭中蒙受了空前的浩劫)。1905年，日俄戰爭結束，他隨部隊回到了俄羅斯。1908年畢業於彼得堡騎兵學校，在沿海龍騎兵團服役。
參加第一次世界大戰
1914年7月奧匈帝國向塞爾維亞宣戰，拉開了第一次世界大戰的序幕。以德意志帝國、奧匈帝國、鄂圖曼帝國、保加利亞王國組成的同盟國和大英帝國、法蘭西第三共和國、俄羅斯帝國、義大利王國、美利堅合眾國、塞爾維亞王國、比利時王國、羅馬尼亞王國和希臘王國等國組成的協約國為重新瓜分世界和爭奪全球霸權而爆發的一場世界級帝國主義戰爭，也是人類有史以來的第一次世界大戰。俄羅斯帝國作為參戰方，布瓊尼作為一名軍人也參加了第一次世界大戰，並先後在波蘭、德國、奧地利和高加索等地作戰。
參加俄羅斯內戰
1917年俄國二月革命後，布瓊尼被全連一致推選為連士兵委員會主席，在全團大會上被選為團士兵委員會主席，接著又被選為師士兵委員會副主席。十月革命爆發後，他所在的高加索騎兵師被解散，同年11月，他回到了自己的家鄉，同戰友們一起在當地建立起了蘇維埃政權，後又在家鄉組建了騎兵游擊隊。
在察里津戰役中，因傑出的騎兵指揮才幹，獲得聯共派駐察里津地區的最高領導史達林的賞識，榮膺紅旗勳章。他所在的部隊被擴編為第一騎兵軍，他作為軍長，和軍政委伏羅希洛夫，炮兵主任庫利克，師長鐵木辛哥、羅科索夫斯基、團長朱可夫等成為史達林在紅軍中最信賴的將領。隨後，又出任蘇軍第1騎兵集團軍司令，成為蘇聯國內戰爭時期著名的將領之一。
參加第二次世界大戰
布瓊尼與史達林、朱可夫
1941年6月22日，希特勒發動了侵蘇戰爭。布瓊尼作為蘇聯最高統帥部成員之一，參與了作戰指揮，並先後擔任統帥部預備隊集團軍群司令員、西南方向總司令、預備隊方面軍司令員和北高加索方向總司令等職，參加了保衛莫斯科、基輔和高加索等重大戰略性戰役。
1973年，這位曾參加過日俄戰爭、俄羅斯內戰以及兩次世界大戰的90歲蘇聯元帥在莫斯科逝世。蘇聯當局為他舉辦了國葬，並葬於克里姆林宮宮牆下。