1941年、1942年苏联卫国战争的艰难时期，布琼尼一直在前线担任指挥任务。1943年初，大本营把布琼尼从前线召回，让他担任红军骑兵司令的职务。
当时对骑兵在现代战争中的作用众说纷纭。一种观点认为，骑兵过时了，因为骑兵易受自动武器火力的打击，加之敌人拥有大量坦克，战时马饲料供应困难，还有许多其他原因，使它难以进行勇猛的冲锋和长途奔袭，且没有步兵和坦克的配合，骑兵在防御战中无法建立牢固的防御，难以发挥骑兵灵活机动的长处。布琼尼却不这样认为，他觉得骑兵应与坦克和机械化部队协同作战，在空军的大力支援下，可作为骑兵机械化兵的临时兵团进行作战。
事实正是如此，骑兵机械化兵集群在1943—1944年春天的“巴格拉季昂”战役（即白俄罗斯战役的秘密代号）中，布琼尼抽调了4个骑兵军参加战斗，骑兵“旋风般地袭击敌人，无情地用马刀砍杀”，并协同坦克兵和步兵快速突击占领了一些重要城市和交通枢纽，切断了德军从明斯克到布列斯特和卢尼涅茨的交通线。1944年7月3日，斯大林发布命令，表彰骑兵在解放明斯克战斗中所立的战功。1944年12月，在解放匈牙利的战斗中，苏军骑兵在没有道路的情况下，在山丘森林地带冒着大雨战斗了三天，向前推进75公里，到达预定地点，掩护了在布达佩斯地区包围敌人的坦克部队。1945年4月20日，苏军在德国北面发动进攻时，骑兵在坦克和空军的支援下，又一次出色地发挥了作用，用事实雄辩地说明骑兵过时是一种谬论。
布琼尼在卫国战争中总计参加了保卫莫斯科、基辅和高加索等重大战略性战役，因功勋卓著而获得了崇高的奖赏：一级苏沃洛夫勋章。布琼尼还先后荣获8枚列宁勋章、6枚红旗勋章和多枚外国勋章及奖章，3次荣获革命荣誉武器。
卫国战争结束后，已62岁的布琼尼兼任苏联农业部副部长，主管养马业。因年事已高，他于1954年起担任苏联骑兵总监、国防部总监察部总监。他非常关心青少年的成长，做了大量的社会工作，把许多时间献给了青少年的教育事业。1973年，90高龄的布琼尼在莫斯科逝世，被葬于克里姆林宫古老的宫墙下。
