Перемена образа мыслей Тихона положила начало периоду нелегкого и одностороннего компромисса между церковью и государством, компромисса вынужденного, принятого под жесточайшим давлением власти. После смерти Тихона в 1925 г., несколько назначенных, но еще не возведенных в сан его преемников было арестовано. Одного из них, митрополита Сергия, удалось принудить подписать воззвание, где содержались обещания поддержки советской системе даже большие, чем дал в свое время Тихон. Судя по некоторым сообщениям, ГПУ угрожало арестовать и расстрелять более сотни епископов, если Сергий не уступит требованиям правительства. Разумеется, нет никаких оснований сомневаться в желании и готовности большевиков разрушить внутреннюю иерархию и внешний аппарат Русской Православной церкви. Вероятно, причиной уступок Сергия перед лицом такой всеобъемлющей опасности стало характерное для православной теологии понятие соборности, которое утверждает, что каждый человек, дабы не впасть в заблуждение и не молиться во грехе, нуждается в церкви. Как позднее, обращаясь к клиру, заявил сам Сергий, Бог должен указать, что делать, если удастся сохранить для народа церковь. Во всяком случае в августе 1927 г. Сергий провозгласил, что для православных христиан, которые считают Советский Союз своей светской родиной, его радости и достижения, а равно и его горести являются их собственными.
Что касается Живой Церкви, то в течение без малого двадцати лет, до своего окончательного запрещения в 1946 г., она влачила жалкое существование, неспособная стать государственной религией и привлечь народные массы. В целом, обновленчество оказало глубокое влияние на Русскую Православную церковь. Позволив тайной полиции использовать себя как своих агентов, обновленцы тем самым полностью дискредитировали не только себя, но и любое стремление к реформам в Православии вообще. Их отступничество сделало церковь внешне негибкой и консервативной и на долгое время заставило ее пресмыкаться перед государством. В этом отношении с конца 1920-х гг. вплоть до настоящего времени мало что изменилось.
Даже публичные обещания хранить преданность государству не смягчили официальной религиозной политики. Кампания репрессий вновь началась с коллективизацией сельского хозяйства. Вначале колокола сельских церквей были сброшены и отправлены на переплавку как необходимый промышленности металлолом. Эжен Лион, иностранец, описал эти события таким образом: “Верующие иногда защищали свои церкви, вилами и кольями встречая команды, явившиеся снимать колокола и иконы. Для подавления этих бунтов часто посылались войска, и зачинщики мигом оказывались или в тюрьме, или перед залпом расстрельной команды”. Как правило, после создания колхоза церковь в конце концов закрывали и превращали в склад или деревенский клуб, а священника арестовывали или отправляли в ссылку вместе с “кулаками”. Вторая волна арестов и закрытия церквей поднялась во время великих чисток 1936–39 гг. В результате из 163 епископов, действовавших в 1930 г., в 1939 г. на свободе осталось только 12. Более того, Сергий был вынужден распустить “синод”, административную канцелярию, посредством которой он пытался придать деятельности церкви некоторую упорядоченность и постоянство. Несмотря на все уступки Сергия, Русская Православная церковь, казалось, умирала из-за обрушившихся на нее гонений.
Как все это влияло на простых верующих, сказать трудно, по причине нехватки каких-либо данных на этот счет. Ясно, что потеря духовного наставника и традиционного места молитв стала сокрушительным ударом по верующим. Для многих утрата традиционных форм религиозного поклонения означала конец активной веры. Но для заметного — по меньшей мере — меньшинства верно было как раз обратное. Всеобъемлющие репрессии властей загоняли верующих в подполье, что нередко делало их веру более глубокой и искренней. Кое-кто из священнослужителей искал спасения, бросив свои жилища и находя для себя какие-либо светские профессии — таким образом они в большей степени, чем ранее, приближались к своей пастве. Другие пустились в дорогу: странствующие священники скрытно приходили в деревни и совершали под покровом ночи, в лесу, христианские таинства. Верующие, лишенные постоянной помощи со стороны священнослужителей, вынуждены были искать новые пути для утоления религиозных чаяний, импровизировать в совместных молениях, причастии или в массовом крещении. Так, подобно староверам семнадцатого века, наиболее горячие приверженцы веры вынуждены были изменять привычный порядок.