Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество

Давайте посмотрим, как мы находим друзей в интернете. Социальные сети помогают увеличивать число контактов — это те самые рекомендации «люди, которых вы можете знать», то и дело мелькающие в ленте. У этих людей есть с вами нечто общее: учились в том же университете, слушают ту же группу, знают кого-то из ваших друзей. В результате круг друзей в социальных сетях оказывается даже более гомофильным, чем общество в целом, а еще в социальных сетях чаще формируются однородные группы. Те, у кого в онлайн-друзьях больше единомышленников, используют социальные сети особенно часто. Группы, в которых состоят пользователи со схожими профилями, интереснее рекламодателям: люди с близкими интересами покупают одинаковые товары, а потому продавать им легче. Так что существуют вполне очевидные бизнес-выгоды от объединения похожих между собой людей в группы, причем отбор их должен быть как можно более точным и незаметным.

На практике эти методы могут привести к тому, что люди будут делиться на все более изолированные и непохожие друг на друга группы. На платформах YouTube и Facebook рекомендательные алгоритмы выстроены так, чтобы заставить даже заскучавших пользователей как можно дольше оставаться на сайте[483]. Как выясняется, для достижения этой цели лучше всего предлагать контент, продвигающий все более радикальную точку зрения или даже провокационный. Социолог Зейнеп Туфекчи сформулировала это так: «После видео о вегетарианстве нам показывают ролик о веганах; после видео о беге предлагается материал о том, как пробежать марафон. Получается, что вы как будто всегда “недотягиваете” до уровня, который предлагают вам алгоритмы YouTube». Дальше Туфекчи рассуждает так: «Именно по этой причине YouTube оказывается одним из главных инструментов радикализации общества в XXI веке»[484]

. И она наверняка права. В ходе масштабного исследования контента YouTube, когда было проанализировано более 330 тысяч видеороликов и 72 миллионов комментариев на 349 каналах, выяснилось, что пользователи со временем обязательно переходят к все более радикальному контенту[485]. Те, кто смотрят сейчас экстремальные или радикальные видео, прежде смотрели материалы более умеренного характера, но со временем оказались «на пути радикализации» и постепенно стали регулярными посетителями каналов или ресурсов, продвигающих соответствующие взгляды или подходы.

В некоторых случаях эта логика провоцирует эскалацию прямого насилия. В 2018 году было проведено исследование, чтобы выяснить, способствует ли Facebook пропаганде ИГИЛ (запрещенной в России террористической группировке), и показать, какова роль соцсетей в рекрутинге членов террористических групп. Это классическое изучение гомофильности: люди, интересовавшиеся публичной политикой, постепенно втягиваются во все более экстремально настроенные группировки. Познакомившись на платформе Facebook лишь с одним сторонником запрещенной в России ИГИЛ, пользователь получает от самой соцсети рекомендации о десятке других аккаунтов, поддерживающих эту террористическую организацию. «Стремясь связать как можно больше единомышленников, Facebook создал систему, помогающую террористам и экстремистам вербовать сторонников», — делают вывод Грегори Уотерс и Роберт Постингс, авторы исследования[486].

В ходе работы Уотерс и Постингс наблюдали за тем, как с помощью социальной сети происходит вербовка: студент из Нью-Йорка, утверждавший, что не причисляет себя ни к какой религии, меньше чем за полгода стал сторонником запрещенной экстремистской организации. Собственные исследования соцсети подтверждают сделанные выводы. В тексте ставшего доступным широкой публике письма вице-президента Facebook Эндрю Босворта к коллегам есть такие слова: «Не исключено, что кто-то погибнет в ходе теракта, организаторы которого общались именно с помощью наших инструментов. А мы как ни в чем не бывало связываем людей»[487]

. Письмо появилось за год до публикации отчета Уотерса и Постингса.

В последние годы руководство Facebook стало признавать масштаб проблемы. Еще в 2017 году в компании стартовала инициатива под названием «Борьба за принципы». Начав разбираться, участники проекта сделали чудовищные открытия. Во многих локальных сегментах социальной сети процветают расизм и экстремизм, ведется пропаганда крайне правых взглядов. Само устройство платформы только усугубляет дело:%4 % тех, кто вступил в разного рода экстремистские группы, сделали это «по рекомендации [Facebook]». В 2018 году в одной из презентаций для внутреннего пользования прозвучал вывод о том, что алгоритмы эксплуатируют «склонность человеческого мозга к делению на своих и чужих». Там же отмечается, что Facebook будет предлагать «контент, все более обостряющий идейные разногласия, стремясь привлечь и удержать внимание и увеличить время, которое пользователи проводят на платформе»[488]. Именно это давно замечают многие сторонние эксперты и просто пользователи, а теперь признают и сами сотрудники компании.