После освобождения в 1920–1922 годах Сибири, Забайкалья и Приморья от белогвардейцев и японских оккупантов руководство советской внешней разведки обратило самое пристальное внимание на обстановку в Китае и особенно на его северных территориях. Это было связано с тем, что после окончания войны в Китае укрылось большое число белогвардейцев, ранее воевавших против Красной Армии. Особенно много их было в Маньчжурии, находившейся под контролем китайского генерала Чжан Цзолина. В короткий срок белогвардейцами было создано несколько активно действующих организаций, таких, как монархическое «Богоявленское братство» (глава Д. Казаков), «Комитет защиты прав и интересов эмигрантов» (руководители генерал Глебов и полковник Колесников), «Мушкетеры», «Черное кольцо», «Голубое кольцо» (все три возглавлял бывший секретарь российского посольства в Пекине Остроухов) и т. д. Кроме того, продолжали существовать военизированные формирования — отряды Анненкова, Глебова, Нечаева, Семенова и других, ставившие своей целью вооруженную борьбу с Советским государством. Поэтому работа против белой эмиграции стала, наряду с добыванием информации о политическом положении в самом Китае и планах японской военщины, главным направлением деятельности сотрудников разведки в Поднебесной.
Первая легальная резидентура ИНО ВЧК в Китае была создана в Пекине под прикрытием советской дипломатической миссии в начале 1921 года. Возглавил ее Аристарх Аристархович Ригин, работавший под псевдонимом Рыльский. Под его руководством начала создаваться агентурная сеть и региональные резидентуры в других городах, которых вскоре насчитывалось около десяти.
А в 1922 году в Пекин в качестве советника советской дипломатической миссии прибыл Яков Христофорович Давтян, первый начальник ИНО ВЧК, который стал главным резидентом в Китае и оставался в Пекине до конца 1924 года. Уже вскоре после своего прибытия в Китай Давтян писал начальнику ИНО Мееру Абрамовичу Трилиссеру:
Однако предложения Давтяна о централизации разведывательной работы в Китае остались без ответа. Но, несмотря на все сложности, ему в короткий срок удалось добиться значительных результатов. Так, в докладе в Центр 11 февраля 1923 года он писал: