Взломать всё. Как сильные мира сего используют уязвимости систем в своих интересах

Базовая методология поведенческой зависимости хорошо иллюстрируется на примере игрового автомата. Мы знаем, что переменные вознаграждения вызывают большее привыкание, чем вознаграждение фиксированное, а азартные игры по своей природе предоставляют именно такой вид вознаграждения. На первом этапе процесса возникает триггер – пусковой механизм, который привлекает наше внимание. Игровые автоматы нарочито яркие и шумные. Они шумят и тогда, когда ими никто не пользуется, и тогда, когда кто-то выигрывает. Второй этап представляет собой действие, которое запускает ожидание вознаграждения. Эту роль выполняет ставка – когда-то это была монета, опущенная в слот, сегодня достаточно нажать кнопку. Третий этап – переменное вознаграждение: вы то выигрываете, то проигрываете. На четвертом этапе начинаются эмоциональные инвестиции, которые увеличивают склонность игрока к повторному входу в цикл. Все любят победителей. Еще одно нажатие кнопки, и – кто знает? – может быть, джекпот будет вашим.

Онлайн-игры тоже относятся к аддиктивным процессам с переменным вознаграждением, особенно игры с лутбоксом

 – наборами цифровых товаров. Игроки платят – иногда игровой валютой, но в основном реальными деньгами – за случайный набор внутриигровых предметов. Ценные предметы встречаются в лутбоксах нечасто, иногда очень редко, что имитирует аддиктивные характеристики игрового автомата. Видеоигры в целом обычно разрабатываются с десятками поведенческих настроек, призванных удерживать игроков онлайн как можно дольше – до такой степени, что их аддиктивный характер является секретом Полишинеля.

Информационные продукты, такие как приложения для смартфонов и сайты социальных сетей, специально созданы для того, чтобы аналогичным образом вызывать привыкание. Триггерами служат оповещения, которые привлекают наше внимание: звуковые сигналы, звонки, вибрация, push-уведомления. (Не правда ли, прямо по Павлову?) Действием становится клик, который приносит с собой предвкушение награды. Переменные вознаграждения – это лайки, посты, комментарии, изображения и все остальное, что появляется в ленте.

Ничто из этого не является случайным. Цифровые платформы могут обновлять свои страницы автоматически, без вмешательства пользователя, если бы так решили их разработчики. Но принуждение пользователей к нажатию кнопок или пролистыванию страниц, чтобы увидеть больше сообщений, имитирует поведение игрового автомата и создает иллюзию контроля, которая приучает вас делать это снова и снова. Аналогичным образом, любого рода пакетные уведомления – когда все новые уведомления показываются один раз в день – снижают эффект переменного вознаграждения, а значит, и аддиктивность. Вот почему эта удобная и простая функция никогда не предлагается ни одной из платформ социальных сетей, основанных на рекламе.

При всей склонности людей считать зависимость недостатком, гораздо полезнее рассматривать ее как хак – надежный и очень эффективный. Мы знаем, что именно делает поведение аддиктивным. Компании повсеместно внедряют такие хаки, причем зачастую настолько скрытно, что потребители не замечают этого. И, как мы увидим дальше, алгоритмы и экспресс-тестирование делают цифровые платформы все более аддиктивными при все меньшем вмешательстве в этот процесс человека.

45

Убеждение

В 2014 г. боты, выдававшие себя за женщин в приложении для знакомств Tinder, отправляли текстовые сообщения пользователям-мужчинам, вели с ними банальную светскую беседу, упоминая в ней мобильную игру Castle Clash, в которую они якобы играли, и затем давали ссылку. С точки зрения хакерского мастерства это было довольно неубедительно. Игра велась на разных мужских эмоциях, включая доверие и сексуальное желание, но новая «подруга», если вы хоть немного включали критическую оценку, явно была ботом. Достоверно неизвестно, насколько успешно эти поддельные аккаунты убеждали людей скачать и поиграть в игру, пока Tinder не удалил их.

Этот пример не уникален. Чат-боты регулярно используются для манипулирования человеческими эмоциями и убеждениями людей в коммерческих и правительственных целях. В 2006 г. армия США развернула SGT STAR, чат-бота, призванного убеждать людей вступать в армию. Технологии ИИ и робототехники делают подобные усилия намного эффективнее.

В 1970-х г. Федеральная торговая комиссия попросила руководителей рекламных агентств объяснить им, что такое маркетинг. До этого у членов комиссии было довольно примитивное представление об отрасли. Они полагали, что реклама – это средство, с помощью которого компании объясняют потенциальным потребителям преимущества своей продукции. Но, конечно, реклама уже тогда была чем-то большим, а современные рекламные технологии, направленные на взлом когнитивных систем, и подавно.