Сталин придавал исключительное значение возникновению «Союза». На процессах 1936―1938 годов большинство подпольных «центров» признавалось выросшими из «Союза», а тот факт, что коммунист читал «Рютинскую платформу», уже был сам по себе тяжелым государственным преступлением. Рютина и его товарищей не реабилитировали ни в 1956, ни в 1963, ни даже в 1986 году. В ответ на очередную просьбу о реабилитации В. Н. Каюрова Прокуратура СССР ответила: «К уголовной ответственности за участие в контрреволюционной деятельности и проведение антисоветской агитации был привлечен обоснованно». Только в 1988 году Верховный суд реабилитировал всех участников «рютинского дела».
В то время как троцкисты открыто пошли по пути старых большевиков и занялись откровенно антиправительственной деятельностью, более умеренные из оппозиционеров начали потихоньку готовить снятие Сталина легальным путем. В этом смысле типична и показательна история «молодых вождей» — Сырцова и Ломинадзе.
С. И. Сырцова никоим образом нельзя отнести к обиженным. В 1926 году, 33 лет от роду, он был уже секретарем Сибирского краевого комитета ВКП(б). Когда в 1927 году в Сибирь на хлебозаготовки приехал Сталин, молодой энергичный и образованный секретарь настолько понравился вождю, что спустя всего год с небольшим, в мае 1929 года, он уже избран Председателем Совнаркома РСФСР.
Столь быстрая карьера заставляла многих видеть в нем возможного преемника Предсовнаркома СССР Рыкова, а может быть, и самого Сталина.
Однако Сырцов достаточно быстро завязал тесные контакты с Рыковым и вскоре тоже начал критиковать экономическую политику правительства с правых позиций. Вокруг него объединились единомышленники, составившие координационный центр. В его состав вошли выходцы из Западной Сибири, такие, как В. А. Каврайский, И. С. Нусинов, А. И. Гальперин, А. Курс, и другие, в основном работники госучреждений.
В отличие от Сырцова, позиция первого секретаря Закавказского крайкома партии Бесо Ломинадзе была ближе к левым, чем к правым. Не раз в присутствии грузинских коммунистов и Серго Орджоникидзе он резко критиковал Сталина. Летом 1930 года Ломинадзе направил «Обращение Заккрайкома ВКП(б)», где красочно описал положение на селе в разгар «чрезвычайщины». Вскоре вокруг него тоже собралась группа единомышленников — в основном бывшие вожди ВЛКСМ и КИМа — Лазарь Шацкин, Николай Чаплин и др.
Ломинадзе также в свое время входил в руководство КИМа, был дружен со многими молодежными лидерами, пришедшими в конце 20-х годов к руководству своих партий, и через них имел большое влияние на многие западные компартии.
В конце 20-х годов в ходе проводившейся Коминтерном кампании произошло резкое омолаживание руководящих кадров компартий. Во главе Компартии Франции, например, стала группа молодых — Анри Барбэ, Пьер Силор, Морис Торез, Жак Дорио. Все они недавно возглавляли французский комсомол, и возраст их не превышал 30 лет. Возможно, и у Ломинадзе с его бывшими соратниками по КИМу были мысли совершить такое же «восхождение» к вершинам власти.
Осенью 1930 года Ломинадзе вызвали в Москву. Там и состоялась его встреча с Сырцовым. Оба они пришли к выводу, что Сталина надо снимать, и начали готовиться к его смещению. Однако один из группы Сырцова, Б. Резников, выдал их планы. Через бывшего помощника Сталина, редактора «Правды» Л. Мехлиса, он сообщил «наверх» о том, что эти две группы установили между собой контакты и решили сместить Сталина, что они готовятся сделать это как легальными, так и нелегальными методами. Группа «молодых вождей» явно претендовала на то, чтобы взять в свои руки управление партией и государством.
Дело передали в ЦКК, к нему подключилось и ОГПУ. Несколько человек из группы Сырцова были арестованы. Однако в целом «молодые вожди» отделались на удивление легко. Несколько рядовых членов группы исключили из партии за «антипартийную двурушническую фракционную работу». Решением ЦК и ЦКК Сырцов и Ломинадзе были исключены из членов ЦК, Шацкин — из членов ЦКК. Первый был освобожден от должности Председателя Совнаркома и отправлен на хозяйственную работу за Урал. В 1935 году Сталин вроде бы его даже простил (вообще вождь неохотно отказывался от своих симпатий, даже ошибочных). Однако ему донесли о словах Сырцова: «Сталин на костях Кирова мостит дорогу к власти», и прощение не состоялось. В 1937 году он был осужден и расстрелян.
В. В. Ломинадзе публично покаялся на XVII съезде, был назначен парторгом авиационного завода на Урале и даже впоследствии награжден орденом Ленина. Однако он не терял связи с бывшими соратниками и даже принимал участие в попытке организации блока всех антисталинских группировок. После убийства Кирова, когда многие его друзья по Коммунистическому интернационалу молодежи уже были арестованы, Ломинадзе вызвали в Москву. В дороге он застрелился. Во время репрессий погибла и большая часть остальных участников блока.