Когда к иосифлянам присоединился митрополит Иосиф, само его ссыльное положение (он находился в Ростове Ярославской епархии) оказалось удобным для того, чтобы лично встретиться с Агафангелом и уговорить его на новый демарш. В начале 1928 года Агафангел и Иосиф вдвоем встречаются с Тучковым и спрашивают его мнения о своем будущем выступлении против Сергия. Мнение положительное, так как для Тучкова разделение тихоновцев остается актуальной задачей (если бы оно оказалось отрицательным, то Агафангел бы ничего делать не стал). Через несколько дней, 24 января (6 февраля н. ст.) 1928 года, выходит открытое Обращение к Сергию с обоснованием разрыва с ним до его покаяния. Обращение подписано Агафангелом, всеми тремя его викариями и Иосифом.
В первых строках Обращения заявлено, что Сергий и вообще не имел права на единоличное управление, но ему подчинялись «ради блага и мира церковного». Самими авторами тут подразумевалось, будто право на такое управление было у Агафангела (Серафим параллельно с Обращением отправил Сергию частное письмо с просьбой передать свои полномочия Агафангелу). Тем не менее в тексте этого нет, и поэтому допустимо другое толкование – что права на единоличное управление не было ни у кого вообще. Так понимают текст Новоселов и Андреев в упоминавшемся выше документе 1928 года «Беседа двух друзей». Там они очень хвалят ярославское Обращение в целом, но критикуют этот пункт как неверный, доказывая каноничность самой формы единоличного управления даже и в случае Сергия. Новоселов и Андреев до сих пор поддаются инерции бюрократического мышления и не сверяются напрямую с церковным правом. Чтобы перестать цепляться за это церковное единоначалие, им понадобится еще несколько месяцев, до второй половины 1928 года.
Важно, что, отлагаясь от Сергия, ярославцы заявляют о том, что Сергий вообще не имеет права на церковное управление, то есть отлагаться от него должны бы и все остальные, а не только они: «…отныне отделяемся от Вас и отказываемся признавать за Вами и Вашим Синодом право на высшее управление Церковью».
Такого Обращения было достаточно, чтобы установить церковное единство с петроградскими иосифлянами. Митрополит Иосиф теперь принадлежал сразу к двум центрам движения, петроградскому и ярославскому. Властям показалось, что это чересчур, и потому уже весной 1928 года Иосиф был выслан на свою малую родину – под фактический домашний арест в Николо-Моденский монастырь под Устюжной, Вологодской области.
Также власти «вычислили» особую роль архиепископа Серафима (Самойловича) в ярославской группе, что было нетрудно, так как он в ней был единственным епископом, помимо Агафангела, имевшим всероссийский авторитет. Во время ареста Сергия в 1926 году ему временно передавались полномочия «заместителя местоблюстителя», причем уже не от Сергия, а от арестованного, в свою очередь, митрополита Иосифа (Петровых), которому передавал полномочия Сергий. После освобождения Сергия архиепископ Серафим вернул ему его место. Во время местоблюстительства Серафима его также подвергали аресту и спрашивали, кому он завещал свой пост. К удивлению чекистов, он отвечал: «Господу Богу!» Так, в лице Серафима, до епископата начинала доходить вся неуместность этой бюрократической игры в заместителей и местоблюстителей. Серафим весной 1928 года поехал в ссылку под Могилев.
Роль Новоселова в ярославском отделении от Сергия была велика, но, видимо, не решающая. Решающая роль, скорее всего, принадлежала митрополиту Иосифу, который был хорошо знаком Агафангелу и вместе с ним встречался с Тучковым. Правда, на самого Иосифа решающее влияние оказал, через петроградцев, Новоселов. Желая, очевидно, преуменьшить роль Новоселова, Иосиф на допросе 19 ноября 1930 года показал: «Новоселов больше говорил и влиял на митрополита Агафангела и… на архиепископа Серафима. Ко мне Новоселов приезжал один раз вместе с Серафимом. На отход Агафангела и его группы, на их оформление в самостоятельное течение – он повлиял в том смысле, что подлил, как говорится, масла в огонь: он подтолкнул их на том пути, на котором они уже стояли». Нужно понимать, что это показания на допросе по делу, по которому уже проходит и Новоселов, и для Иосифа важно не ухудшить его положение.
«Беседа двух друзей» позволяет реконструировать планы и церковное самосознание иосифлян после издания ярославского Обращения. Они поражают своей умеренностью и, хочется сказать на фоне декларации епископа Виктора (Островидова), нерешительностью. Делается ставка на то, что теперь большинство епископата не просто отойдет от Сергия, но и присоединится к Агафангелу. Мы уже говорили выше о выраженной в «Беседе двух друзей» надежде на возможность преодоления раскола по механизму, похожему на преодоление раскола между Тихоном и имяславцами. Эта надежда была неверна, так как между Тихоном и имяславцами стояла церковная бюрократия, но не стояло различие в вере, а между сергианами и иосифлянами барьеры бюрократические подкреплялись различиями в самых основаниях веры. Авторы «Беседы» хотят сохранить тихоновскую церковную организацию в максимальной целости, и поэтому защищают принцип единоначалия и возражают против создания параллельной иерархии рукоположением новых епископов. Первая иосифлянская епископская хиротония (епископа Серпуховского Максима (Жижиленко)) будет совершена 12 октября того же года; это дает нам объективный критерий для оценки скорости эволюции церковного мышления Новоселова и иосифлян.