Самое упорное сопротивление оказывали члены той же КП(б)У, по большей части неукраинцы. В одном докладе утверждалось, что лишь 18 % партийцев на гражданской службе могли похвастать приличным знанием украинского (при 44 % служащих вообще). Народный комиссар просвещения Александр Шумский и другие лидеры национал-коммунистов требовали настойчивее проводить украинизацию. Шумский был намерен заменить на посту генсека КП(б)У близкого к Сталину уроженца Киевщины Лазаря Кагановича — русскоязычного еврея — на Власа Чубаря, председателя Совнаркома УССР. Шумский же склонял Москву и к пропаганде украинского языка среди городского пролетариата. Эта политика до тех пор распространялась только на этнических украинцев, не затрагивая русских и представителей других народов, для которых в республике предусмотрели собственные программы коренизации. Большевики не хотели раздражать русский или глубоко русифицированный рабочий класс языковой политикой, которую тот воспринял бы в штыки. Шумский предлагал изменить эту политику, но переоценил свои возможности.
Сталин отказался смещать Кагановича — время, мол, еще не пришло. Он упорствовал, даже притом что крайне нуждался в голосах украинской парторганизации, самой многочисленной в Советском Союзе, для борьбы за верховную власть после смерти Ленина в 1924 году. Никаких уступок не добились от него и относительно украинизации пролетариата. В апреле 1926 года Сталин писал Кагановичу и другим членам ЦК КП(б)У: “Можно и нужно украинизировать, соблюдая при этом известный темп, наши партийный, государственный и иные аппараты, обслуживающие население. Но нельзя украинизировать сверху пролетариат. Нельзя заставить русские рабочие массы отказаться от русского языка и русской культуры и признать своей культурой и своим языком украинский”. Особенно резкое неприятие генсека ЦК ВКП(б) вызвала идея отдаления украинской культуры от русской, в которой он винил украинского автора Миколу Хвылевого, русского по происхождению (настоящее имя — Николай Фитилёв). Сталин продолжал: “В то время как западноевропейские пролетарии и их коммунистические партии полны симпатий к «Москве», к этой цитадели международного революционного движения и ленинизма, в то время как западноевропейские пролетарии с восхищением смотрят на знамя, развевающееся в Москве, украинский коммунист Хвилевой не имеет сказать в пользу «Москвы» ничего другого, кроме как призвать украинских деятелей бежать от «Москвы» как можно скорее”.
Сталин решил перехватить инициативу у национал-коммунистов и велел своему протеже Кагановичу резко форсировать уже принятую программу украинизации и таким образом ответить на жалобы Шумского о ее пробуксовке. Каганович так и поступил. Политика, проводимая до 1926 года из-под палки, стала намного более последовательной и эффективной. В 1927 году Каганович даже сумел выступить по-украински с отчетным докладом на партийном съезде. Он перестал бояться крутых мер и в образовании и культурно-просветительской работе. В 1928 году Кагановича перевели в Москву, но его курс продолжал преемник — Станислав Косиор, этнический поляк. Согласно официальным данным, преподавание на украинском в вузах выросло с 33 % в 1926–1927 учебном году до 58 % в 1928–1929-м. Доля украиноязычных газет в УССР подскочила с 30 % в 1926 году до 92 % в 1932-м.
Становым хребтом коренизации в УССР была украинизация, но одними лишь этническими украинцами эта политика не ограничивалась. В стране создавали многочисленные национальные районы: русские, немецкие, болгарские, еврейские, греческие и один польский. Издательства выпускали книги на языках народов УССР, детей в школах учили на их родном языке. Однако коренизация затронула главным образом село. В городах этнические меньшинства русифицировались еще легче украинцев. В 1926 году в Харькове только 41 % евреев назвал родным свой этнический язык (в их случае — идиш), при 62 % украинцев. Среди еврейских интеллектуалов кое-кто в свете новых веяний выбирал украинский — например, Григорий Кернер (Грицько Кернеренко), уроженец Гуляйполя, — но большинство выбирало русский. Многие уехали в Москву и Ленинград — и сделали там блистательную карьеру. Так поступили Илья Ильф (Файнзильбер) и Василий Гроссман, уроженцы Одессы и Бердичева.
Ставку на украинизацию генсек делал прежде всего из тактических соображений, поэтому заигрывание с меньшинствами не могло продлиться долго. В конце 1920-х годов партия решила, что выживание Советского Союза зависит от хорошего отношения к режиму самого многочисленного этноса — русских. Стремление украинцев к развитию целиком самостоятельной культуры теперь шло вразрез с приоритетами большевиков.