10 аргументов удалить все свои аккаунты в социальных сетях

Алгоритмы соотносят между собой как данные одного человека, так и данные разных людей. Их выводы являются теоретическими предположениями о характере каждого человека, степень предсказуемости которых проходит многократную проверку. Как и любые теории, построенные на логике, время от времени они совершенствуются за счет адаптивной обратной связи.

3. Агрессивное навязывание информации

Алгоритмы выбирают, что будет переживать человек, использующий то или иное устройство. Этот компонент можно назвать лентой, движком рекомендаций или персонализацией.

Третий компонент означает, что все люди видят разное. Прямая мотивация – дать стимулы для персонализированного изменения поведения.

ОБЛОМ затрудняет понимание того, почему окружающие думают и ведут себя так, а не иначе. Воздействие этого компонента я рассмотрю подробнее в главе, посвященной тому, как мы утрачиваем доступ к правде и возможность сопереживать.

(Не вся персонализация обусловлена ОБЛОМом. Когда Netflix рекомендует фильм, а eBay – товар, это не ОБЛОМ. Но становится ОБЛОМом в сочетании с другими компонентами. Ни Netflix, ни eBay не получают денег от третьих сторон и не воздействуют на ваше поведение вне вашей текущей активности на их сайтах.)

4. Максимально незаметное управление поведением людей

Первые три элемента сочетаются друг с другом, в результате чего получается машина измерения и обратной связи, намеренно изменяющая поведение пользователей.

Напоминаю: индивидуально настраиваемые ленты новостей оптимизируются, зачастую с применением мощных эмоциональных сигналов, для «вовлечения» каждого пользователя и последующего формирования зависимости. Люди не осознают, как именно ими манипулируют. Базовая цель манипуляции – заставить людей проводить в системе как можно больше времени[27]. Но у манипуляторов есть и другие цели.

Например, если вы читаете с электронного устройства, подключенного к интернету, ваши читательские привычки будут сопоставляться с привычками множества других людей. И если человек с похожими на ваши привычками купит что-то после того, как этот товар будет представлен ему определенным образом, то вероятность того, что вы тоже купите этот товар, возрастет. Перед выборами вы могли попасть в группу, для которой в интернете были написаны странные посты, призванные пробудить цинизм в людях, похожих на вас, и снизить шанс на то, что вы пойдете голосовать.

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа[28].

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

Если окажется, что вас расстраивают посты определенного характера, они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.

Один из секретов нынешней Кремниевой долины в том, что некоторым людям удается лучше других обучать машины, и никто не понимает почему. Самый механический способ манипулирования человеческим поведением оказывается искусством, к всеобщему величайшему удивлению, основанным на интуиции. Те, у кого хорошо получается управлять новейшими алгоритмами, становятся знаменитыми и зарабатывают баснословные деньги.

5. Обогащение на том, что самым бессовестным моральным уродам позволяется исподтишка обманывать людей

Машина массового изменения поведения предоставляется внаем. Манипуляции ОБЛОМа не идеальны, но обладают достаточной силой, и для политиков, торговых марок и прочих конкурирующих друг с другом субъектов отказываться от регулярных платежей в пользу ОБЛОМа равносильно самоубийству. Это всеобщий когнитивный шантаж, в результате которого растут общие расходы на ОБЛОМ[29].