В пятнадцать лет он начал работать подручным слесаря на Юрьевском металлургическом заводе, где в 1899 году организовал забастовку крановщиков и литейщиков. Последовали первый арест, увольнение, занесение в «черные списки», скитания в поисках работы. В 1903 году его приняли в Луганскую организацию РСДРП. Так начинался путь профессионального революционера.
После раскола социал-демократов Ворошилов решительно примкнул к ленинцам и в пику меньшевикам на партийных сходках представлялся «товарищем Антимековым». Энергичный, темпераментный Клим быстро стал заметной фигурой в большевистском движении.
В первую русскую революцию, избранный председателем Луганского Совета рабочих депутатов, Ворошилов руководил стачками на заводе Гартмана, занимался созданием боевых дружин, доставкой оружия из Финляндии, организовал подпольную лабораторию по изготовления бомб. В 1906 и 1907 годах он был делегатом IV Стокгольмского и V Лондонского съездов партии, там познакомился с Лениным, Сталиным, Дзержинским. В июле 1907 года слесаря-бомбиста арестовали в третий раз. Он получил от «кровавого царского режима» три года ссылки в Архангельскую губернию. Из ссылки бежал ровно через три месяца.
В 1908–1917 годы Ворошилов вел подпольную работу в Баку, Петербурге, Царицыне. Работа регулярно прерывалась арестами, отсидками, высылками в отдаленные районы империи. После Февральской революции Климент Ефремович месяц походил в членах Петроградского Совета рабочих депутатов, а затем вернулся в Луганск, где был избран председателем городского Совета, городской думы и комитета партии. В ноябре 1917 года в качестве делегата Учредительного собрания Ворошилов отправился в столицу и, попав в самую гущу событий, стал комиссаром Петроградского военно-революционного комитета и одним из создателей «Чека» — Всероссийской Чрезвычайной Комиссии по борьбе с контрреволюцией и саботажем.
В марте 1918 года Ленин, оплачивая выданные авансы и безбилетный проезд в запломбированном вагоне, заключил сепаратный мир с Германией, согласно которому оккупированная немцами Украина признавалась самостоятельным государством, дальнейшая судьба которого будет решаться «без участия русских властей». Соответствующие договоры Австро-Венгрия и Германия подписали с делегацией Центральной Рады Украины, которая тут же запросила немецкой военной помощи.
Официально большевики никак не могли этому помешать. Но они имели огромный опыт подпольной работы и, формально соблюдая условия Брестского мира, старательно раздували пламя «революционной войны» на отложившихся от Российской империи территориях, тайно поддерживая повстанцев Махно, Григорьева, Шинкаря.
Ворошилова командировали в Украину. Там он создал 1-й партизанский Луганский социалистический отряд численностью 600 человек и 13 марта двинулся на битву «с палачами пролетарской революции» — немецкими интервентами и украинскими самостийниками.
Вскоре отряд превратился в 5-ю Украинскую армию. Правда, немцев это не испугало. Всего через две недели разбитая «армия» начала поспешно отступать. Ворошилов свои «войска» повел к Луганску, откуда начался «легендарный Ворошиловский поход» красных партизан с семьями, эшелонами и обозами награбленного добра через восставший казачий Дон к Волге.
Донцы с началом революции воткнули было пики в землю и, бросив фронт, разбрелись по станицам, но два месяца советской власти и ленинский декрет о введении продразверстки их возмутили. Генерал А. И. Деникин писал в своих воспоминаниях:
«Со всех сторон неслись вопли, рассказы о массовых злодействах, об осквернении церквей, о поджогах и грабежах, об изнасиловании женщин и детей»…
Посему обозленные «белоказаки разрушали железнодорожные пути, мосты, взрывали водокачки, непрерывно совершали нападения на двигающиеся войска и эшелоны». Тем не менее, в начале июля 1918 года «группа войск товарища Ворошилова» прорвалась к Царицыну.
Здесь находился его старый знакомый по бакинскому подполью, чрезвычайный уполномоченный по заготовке и вывозу хлеба с Северного Кавказа И. В. Сталин. «Заготовкой» большевики называли насильственное, под дулами пулеметов, изъятие продовольственных продуктов у всего населения страны. Возражавших они объявляли «врагами народа», со всеми вытекающими последствиями.