Google, Facebook, Twitter и подобные им компании необходимо воспринимать как новое явление, которое не вписывается в старую карту. Это новое явление функционирует по другим правилам – не из-за прихоти или нежелания брать на себя расходы на курирование, а в силу своей специфики.
Нежелание Google и Facebook вводить операции, выполняемые вручную, – это не просто вопрос ухода от ответственности за удобной правовой оговоркой. Эти сайты выдают свои результаты поиска не после некого собрания редакторов, такого как собрание редакторов газеты New York Times в старые времена, в ходе которого те решали, какие истории будут размещены на первой странице и где именно. К 2015 году практика проведения таких собраний постепенно сошла на нет даже в Times. Результат любого поискового запроса в Google является результатом огромных усилий по поиску и ранжированию каждой страницы в Интернете – а их 30 триллионов, принадлежащих 250 миллиардам уникальных доменов, согласно данным вице-президента отдела поиска компании Google Амита Сингхала, – и по их обслуживанию в ответ на более чем 5 миллиардов запросов в день. Многие из этих поисковых запросов – довольно распространенные, но по крайней мере десять миллионов из них представляют собой довольно редкие сочетания слов и фраз. Оскорбительные результаты запроса «Холокост», на которые жаловалась Кадуолладр, это результат поискового запроса, который, согласно данным Google, выполняется всего около 300 раз в день. Из 5 миллиардов. Это 0,000006 % ежедневных поисковых запросов, несколько миллионных долей процента.
Объем информации, обрабатываемой Facebook, также огромен. В 2013 году социальная сеть сообщила, что ежедневно публикуется около пяти миллиардов единиц контента. Сейчас эта цифра намного больше, так как сейчас у сайта более 1 миллиарда активных пользователей в день, по сравнению с 700 миллионами в 2013 году.
Идея о том, что Google или Facebook могут решить проблему, просто наняв команду редакторов или фактчекеров или воспользовавшись услугами внешних медиаорганизаций для борьбы с фальшивыми новостями, ненавистническими высказываниями или другими нежелательными результатами, удаляя их или понижая их в поиске один за другим, указывает на то, что люди не имеют представления о масштабах или о сущности проблемы. Это похоже на ярмарочную игру «Поймай крота», за исключением того, что кротов миллиарды, а молотков лишь сотни. Человеческий контроль и вмешательство, безусловно, необходимы, но они мало что изменят, если будут реализованы так, как представляют себе такие критики, как Кадуолладр. Чтобы поймать миллиарды кротов, вам нужны гораздо более быстрые молотки.
Мы должны отказаться от представления о том, что человеческая роль в этом цикле подобна нажатию на аварийный выключатель человеком, принимающим окончательное решение. Известная статья в журнале Harvard Business Review под названием «Кому достанется обезьяна?» объясняет, почему всякий раз, как у подчиненного появляется проблема, которую сравнивают с обезьяной, сидящей на его или на ее спине, менеджер должен предложить свой совет, а затем отправлять подчиненного восвояси вместе с его обезьяной. В противном случае все обезьяны множества подчиненных окажутся на спине у менеджера. Насколько это верно в эпоху алгоритмов? На спине у менеджера оказывается миллион обезьян. Хороший менеджер всегда играет роль учителя. Насколько это справедливо в отношении могущественной, но, в сущности, глупой расы джиннов, которые делают большую часть работы на наших огромных онлайн-платформах?
У Google нет сомнений в том, что группы разработчиков, менеджеры цифровых работников, генерирующих индекс и формирующих результаты поисковой выдачи, трудятся в поте лица, обучая своих шустрых бездушных джиннов тому, как смягчить эту проблему. Я был бы очень удивлен, если бы к тому времени, как будет издана эта книга, не произошло бы всеобъемлющего пересмотра выявления фальшивых новостей, подобного обновлениям Panda и Penguin 2011 года, которые касались контент-ферм. И действительно, в течение нескольких недель после выхода редакционной статьи Кадуолладр результаты поискового запроса по слову «холокост» были улучшены. Но первоначальная корректировка не сработала системно, и Google по-прежнему изо всех сил пытается придумать комплексное решение для борьбы с фальшивыми новостями, но механизмы, при помощи которых они отражают атаки на эффективность работы поисковой системы, определены четко.