Полиции так и не удалось выйти на след похитителей генерала, которыми были сотрудники и агенты специальной группы Якова Серебрянского. Еще летом 1929 года советское руководство санкционировало операцию по "секретному изъятию" генерала Кутепова. 1 января 1930 года Серебрянский вместе с членами своей группы Турыжниковым и Эсме-Рачковским выехали в Париж. Заталкивающие под видом полицейской акции Кутепова в машину люди в желтых пальто были французскими коммунистами - тайными агентами группы Серебрянского. Роль постового сыграл настоящий офицер парижской полиции, близкий коммунистам, тоже агент ОГПУ. В красном же такси сидели непосредственные руководители операции на месте Турыжников и Эсме-Рачковский. Сразу в машине Кутепову была сделана инъекция морфия. Пленника вывезли из Парижа, но доставить в СССР его не удалось. Вечером того же дня Кутепов скончался от сердечного приступа и был похоронен в предместье французской столицы в саду дома, владельцем которого был вышеуказанный полицейский офицер.
По завершении операции с Кутеповым Яков Серебрянский приступил к созданию автономной агентурной сети в различных странах для организации диверсий на случай войны. 20 июля 1930 года он был зачислен на особый учет ГПУ в связи с выездом за рубеж. Работая за границей, Серебрянский лично завербовал около 200 человек. Румыния, США, Франция, Китай, Япония - вот география его нелегальных спецкомандировок. Созданная "Группой Яши" сеть действовала в Германии, Франции, Палестине, США, Скандинавии, на Балканах и состояла не только из секретных агентов ОГПУ и Коминтерна, но и из просоветски настроенных русских эмигрантов. Состав сотрудников группы был довольно разнородным. Здесь служили сын кулака, бывший белоэмигрант Андрей Николаевич Турыжников и сын раввина, в 20-е годы член германской Компартии Самуил Маркович Перевозников. Помощником, а затем заместителем Серебрянского был Альберт Иоахимович Сыркин-Бернарди, личность с крайне интересной биографией - сын владельца крупного книгоиздательства в Петрограде, а по материнской линии двоюродный брат писателя Юрия Тынянова.
В годы гражданской войны в Испании Серебрянский, которому 29 ноября 1935 года присвоили звание старший майор госбезопасности (аналог армейского генерал-майора) со своей группой участвовал в нелегальных поставках оружия республиканскому правительству. Так, в сентябре 1936 года сотрудникам "Группы Яши" при помощи агента по кличке Бернадет удалось закупить у французской фирмы "Девуатин" 12 новых военных самолетов якобы для некоей нейтральной страны. Самолеты доставили на приграничный с Испанией аэродром, откуда их под предлогом летных испытаний благополучно перегнали в Барселону. За эту операцию 31 декабря 1936 года Яков Серебрянский был награжден орденом Ленина.
Конечно, в условиях сложившегося в СССР в 1930-е годы политического режима спецгруппа вынуждена была заниматься не только разведкой и подготовкой к войне, но и принимать участие в борьбе Сталина с Троцким и его единомышленниками за рубежом. Так, одним из объектов разработки стал живущий в Париже сын Троцкого Лев Седов. В 1937 году по указанию отца он приступил к работе по организации 1-го съезда IV Интернационала, который должен был открыться летом 1938 года в Париже. В связи с этим руководство НКВД приняло решение о похищении Седова. Проведение операции, получившей кодовое название "Сынок", было поручено Серебрянскому. В ее подготовке принимали участие 7 членов группы. Однако похитить "Сынка" не удалось по причине того, что в феврале 1938 года он скоропостижно скончался от приступа острого аппендицита. Существует мнение, что его ликвидировали спецслужбы, однако документов, подтверждающих это, не обнаружено.
В 1941 году Серебрянский сидел в камере смертников по обвинению в шпионской деятельности (органы НКВД арестовали его в 1938-м, а до этого он дважды уже арестовывался ОГПУ). В августе 1941 года Серебрянский был освобожден и успешно продолжил свою деятельность. В 1946 году министром госбезопасности стал Виктор Абакумов, и Серебрянскому стало сложно работать на ответственной должности, так как именно Абакумов в свое время вел его дело и, применяя "физические меры воздействия", выбил ложные показания. 29 мая 1946 года полковник Яков Исаакович Серебрянский, награжденный к тому времени двумя орденами Ленина, двумя - Красного Знамени и двумя значками Почетного чекиста, вышел на пенсию с формулировкой "по состоянию здоровья".
В мае 1953 года по инициативе известного Судоплатова Серебрянский вернулся на службу в объединенное Берией Министерство внутренних дел. Но, увы, его четвертое пришествие в органы госбезопасности продлилось недолго и закончилось трагически. 21 августа 1953 года по лживому обвинению в участии в "бериевском заговоре" были арестованы Судоплатов и Эйтингон, а 8 октября пришли и за Серебрянским.