В марте 1919 года, в связи с назначением Думенко помощником начальника штаба 10-й армии по кавалерии, Буденный стал комдивом и членом большевистской партии. Вступив в должность, первым делом потребовал от штаба армии персональный автомобиль и новое пальто «на меху покрыт цвет хыке» (его подлинные слова из записки). В мае 1919 года из двух кавалерийских дивизий был сформировал 1-й Сводный конный корпус под командованием Думенко. Однако Борис Мокеевич получил тяжелое ранение в том же бою у реки Сал, что и командарм Егоров. Его место занял Буденный и своего шанса Семен Михайлович не упустил.
В августе 10-я армия и корпус Буденного попытались вернуть Царицын, но были отбиты. Как реальная боевая сила, корпус впервые заявил о себе в Воронежско-Касторненской наступательной операции Южного фронта. В ходе встречных боев 12–19 октября 1919 года буденовцы нанесли поражение двум конным корпусам белых: 4-му Донскому генерала К. К. Мамонтова и 3-му Кубанскому генерала А. Г. Шкуро, после чего заняли Воронеж. Затем, развивая наступление на курском направлении, создали серьезную угрозу флангу и тылу Добровольческой армии, обеспечив успех войск Южного фронта под Орлом.
Через месяц корпус Буденного развернули в Первую Конную армию. В ее состав вошли 4, 6-я и 11-я кавалерийские дивизии, автобронедивизион, бронепоезда, авиаотряд и другие части. Таким образом, родилось мощное кавалерийское объединение, способное решать стратегические задачи, а Буденный выдвинулся в ряды виднейших советских военачальников. Членами РВС армии стали старые царицынские знакомые К. Е. Ворошилов и Е. А. Щаденко.
Вместе с боевой славой к армии пришла слава бандитская. Военком 42-й стрелковой дивизии сообщал в Москву:
«Нет ни одного населенного пункта, в котором побывали буденновцы, где не раздавался бы сплошной стон жителей. Массовые грабежи, разбой и насилие буденновцев шли на смену хозяйничанью белых… Взламывали сундуки, отнимали женское белье, деньги, часы, столовую посуду и проч. Поступали заявления об изнасиловании и истязании. Кони вводились в комнаты… Крестьяне спрашивают — в чем разница: грабили белые — теперь грабят красные?!»
Понятно, что в Гражданскую войну обе стороны занимались самоснабжением, проявляли жестокость, чинили насилие над местным населением. Но и здесь Первая Конная превзошла всех прочих. Где бы ни побывали красные конники, всюду за ними тянулся шлейф грабежей, разбоя, погромов.
К 1 января 1920 года, стремительно развивая наступление на юг, Первая Конная прорвалась в Донбасс, 7 января овладела Таганрогом, 10 января Ростовом-на-Дону и вышла к Азовскому морю, расчленив фронт деникинских войск на две части. Для завершения ликвидации северокавказской группировки противника 16 января 1920 года был образован Кавказский фронт под руководством В. И. Шорина, в состав которого вошла Первая Конная. Однако попытка решить поставленную задачу путем неотступного преследования на батайском направлении провалилась ввиду того, что Семен Михайлович с Климент Ефремовичем решил предоставить своим героическим бойцам полноценный отдых.
Ростовский грабеж затмил все предыдущие. Полномочный представитель ВЧК на Северном Кавказе Яков Христофорович Петере сообщил Дзержинскому:
«После занятия Ростова белые бежали в панике, ушли дальше, за Батайск, но армия Буденного вместо того, чтобы преследовать бежавшего противника, начала заниматься грабежами, пьянством в Ростове. О погромах буденновцев местные товарищи рассказывают ужасы. Но это еще не так важно, как поведение самого Буденного — он ни с кем больше не может разговаривать и страдает манией величия».
Семен Михайлович, твердо уверовавший в свою гениальность, вседозволенность и безнаказанность, не считался ни с кем, посылал всех «командующих» по известному адресу:
«Пошлите Реввоенсовет — к …, также и комфронта — предателя революции и вас посылаю к…, а если хотите, пристрелю».