YouTube. Как самый популярный видеохостинг завоевал мир?

ИГИЛ* оставался головной болью. В 2015 году правоохранительные органы США провели около девятисот активных расследований в отношении сторонников террористов во всех пятидесяти штатах. На YouTube регулярно проводились беседы о том, что делать с видеоматериалами, проповедующими радикальный ислам. Безусловно, ожидалось, что четкий машинный интеллект окажет поддержку: модераторы изо всех сил старались анализировать бесконечные волны видеоматериалов, и машина, легко заметив флаг террористов в середине клипа, помогла бы людям принимать решения намного быстрее. Но Менгеринк обнаружил, что на YouTube есть материалы, которые выглядят столь же радикально, хотя направлены против ислама. Или против иудаизма или чернокожих общин. Он был мусульманином и знал, что большинство исповедующих его веру не используют слово «джихад», кроме случаев, когда речь идет о джихаде аль-нафс, что значит «борьба с пороками души». Он искал «джихад» на YouTube. Лента, как и следовало ожидать, была заполнена видеороликами о терроризме, но он прокрутил немного вниз и нашел клипы от Чайной партии и видеоблогеров, которые смотрят вам прямо в глаза наподобие Молинье. Они были озлоблены и, хотя старались не злоупотреблять уродливыми оскорблениями и не призывать к откровенному насилию, такого рода материалы YouTube удалял. Если бы нейросеть была настроена на максимальное время просмотра (а так оно и было), такие видео получали бы отличные результаты.

YouTube начал фильтровать видео, пропагандирующие исламистский террор, ограничивая определенные клипы по возрасту или удаляя их. На одной из встреч Менгеринк предложил аналогичный подход к другим формам радикализма: похоронить их, снижая частоту появления в поиске и рекомендациях. «Пусть их будет до идиотизма трудно отыскать», — предложил он. Если кто-то смотрел материалы, открыто критикующие чернокожих американцев, почему бы не предложить другие видео, показывающие историю чернокожих в позитивном свете? Таких было предостаточно. Ему сказали, что такие изменения могут выглядеть как противодействие свободе слова, чего Google хотела избежать, и могут нарушить неприкосновенность поиска. Он неоднократно слышал возражение: «Это не очень гуглово». А где данные, подтверждающие сей аргумент? Еще одна женщина, работающая на YouTube, впоследствии вспомнила, как однажды опротестовала некое решение, чем вызвала обвинения со стороны коллег: «Ты не позитивная, не гугловая». Когда-то позицию Менгеринка называли жуткой.

Его коллеги знали о нежелательных видеороликах и не особенно их любили. Они начали обсуждать идеи о «скамье штрафников» для неблагонадежных авторов, таких как сторонник теорий заговора Алекс Джонс, чье ток-шоу InfoWars набирало на YouTube огромную аудиторию. Некоторые смотрели его ради развлечения; другие, возможно, купились на его идеи. Машины не отличали этих зрителей друг от друга. Одного соискателя, который хотел устроиться в YouTube на руководящую должность, на собеседования спросили: «Что нам делать с Алексом Джонсом?»

Правильный ответ на такие вопросы заключался в том, что YouTube должен минимизировать помехи, а рекомендации по настройке воспринимались как помехи. Да, это отражало твердую веру в свободу слова, но и такое же сильное ощущение того, что компания не готова навязывать моральное суждение свободной воле своих зрителей. «Если люди это смотрят, — сказали Менгеринку, — таков их выбор».

Просматривая сайт, он понял, в какой точке логика этого аргумента разваливается и перестает работать. «Когда дело касается детей, все обстоит иначе», — сказал он.

Глава 21. Мальчик и его игрушка

Самый звездный автор второго десятилетия существования YouTube родился в 2011 году. Всего через три года и пять месяцев после рождения — когда мама сняла на видео, как мальчик распаковывает свою новую игрушку, — он появился на YouTube.