Помимо гонений со стороны безбожной власти, удары по Церкви наносили многочисленные внутренние нестроения и расколы. К 1922 году оформился «обновленческий раскол», который поначалу возглавили епископ Антонин (Грановский), петроградские священники Александр Введенский и Владимир Красницкий, несколько московских священников. Обновленцами их называли в народе потому, что они ратовали за всестороннее обновление церковной жизни, отмену многовековых традиций, введение женатого епископата и целый ряд других новшеств. Но главным в программе обновленцев было свержение законной церковной иерархии во главе с патриархом Тихоном. Для этой цели они вошли в альянс с ГПУ. Заручившись поддержкой властей, обновленцы 12 мая 1922 года потребовали от патриарха Тихона отречения от престола. Патриарх согласился и направил на имя председателя ВЦИК письмо о передаче полномочий митрополиту Ярославскому Агафангелу (Преображенскому). Однако власти воспрепятствовали приезду митрополита Агафангела в Москву, патриарх же оказался отстраненным от церковных дел. НКВД выдворило его из Патриарших покоев на Троицком подворье и посадило под домашний арест, а его покои в тот же день заняло обновленческое ВЦУ (Высшее церковное управление) во главе с Антонином (Грановским). 29 мая в Москве состоялось учредительное собрание «Живой церкви», постановившее ввести женатый епископат, разрешить второбрачие духовенства и отменить отлучение от Церкви Л.Н. Толстого. В июне обновленческое ВЦУ признали архиепископы Владимирский Сергий (Страгородский), Нижегородский Евдоким (Мещерский) и Костромской Серафим (Мещеряков). К июлю 1922 года из 73 правящих архиереев Русской Церкви большинство уже подчинилось ВЦУ. Только 36 правящих архиереев остались верны патриарху.
В период между летом 1922 и летом 1923 года власть в Церкви фактически находилась в руках обновленцев. 2 мая в храме Христа Спасителя обновленцы провели лжесобор, в котором участвовало 476 делегатов, в том числе 62 архиерея. Лжесобор постановил лишить патриарха Тихона сана и монашества, отменить восстановление патриаршества. Введенский был объявлен «архиепископом Крутицким», Красницкий «протопресвитером Русской Церкви», а Антонин «митрополитом Московским и всея России». Однако вскоре после окончания собора Красницкий и Антонин вышли из обновленческого ВЦС (Высшего церковного совета).
Патриарх Тихон решения лжесобора не признал. В течение второй половины 1922 года патриарх находился под домашним арестом, а в начале 1923 года был переведен в тюрьму ГПУ на Лубянке, где его подвергали регулярным допросам. 16 июня он обратился в Верховный суд с заявлением, в котором раскаялся «в поступках против государственного строя» и просил освободить его из–под стражи. 25 июня патриарх был освобожден и через три дня обратился с посланием к пастве, в котором писал: «Я, конечно, не выдавал себя за такого поклонника советской власти, как объявляют себя церковные обновленцы… но зато я и далеко не такой враг ее, каким они меня выставляют… Я решительно осуждаю всякое посягательство на советскую власть, откуда бы оно ни исходило. Пусть все заграничные и внутренние монархисты и белогвардейцы поймут, что я советской власти не враг». Затем последовало еще два послания патриарха, в которых он признавал свою «провинность перед народом и советской властью» и осуждал обновленческий раскол.
Столь радикальное изменение позиции патриарха по отношению к советской власти, которую он еще в 1918 году анафематствовал, объяснялось как давлением со стороны ГПУ, так и сознанием необходимости восстановить каноническое возглавление Церкви и прекратить обновленческий раскол. Вскоре после возвращения патриарха к своим обязанностям началось возвращение иерархов, отпавших в раскол, в каноническую патриаршую Церковь. 27 августа 1923 года митрополит Сергий (Страгородский) принес принародное покаяние перед патриархом. Перед началом Божественной литургии, стоя в одной рясе, без клобука и панагии, Сергий глухим, дрожащим голосом произнес покаянные слова и поклонился патриарху в ноги. Святейший Патриарх вручил ему панагию, белый клобук и архиерейскую мантию, после чего митрополит Сергий сослужил патриарху за литургией. Ряд других иерархов последовал примеру Сергия.