Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Кризис не является исключительно техническим, государствам не хватает не только бюджета или знаний. Салем напомнил мне, что ООН — организация, основанная на идее национального суверенитета. Но он-то как раз и поставлен под вопрос сетями, которые по самой своей природе детерриториализованы. Речь больше не идет о том, чтобы объединять государства в зависимости от их собственных интересов, но о том, чтобы как-то работать с вопросом, который выходит за их границы. ИИ ведет к устареванию ООН. Организация, некогда способная, несмотря на все ее ограничения, укреплять мир и предупреждать войну, ныне парализована строчками кода. «Нам нужна цифровая ООН, — делает вывод Салем, — то есть организация с другим управлением, другими инструментами контроля, другими формами действия». Но, возможно, появится она только в другой жизни…

Пока же правительства, признающие свою слабость, все чаще и чаще обращаются к гигантам ИИ. Они хотят, чтобы те сами определили нормы, управляющие их пользователями, а потому и всем обществом в целом. Это делегирование суверенной власти частным группам представляет собой удивительный поворот. Под прикрытием «социальной ответственности бизнеса», крайне модного сегодня понятия[132], государство попросило тех, кто управляет нашими данными, фактически заменить собой закон. Когда Facebook применяет свои собственные критерии определения приемлемого контента, он становится главным регулятором свободы слова, попирая тем самым американскую Первую поправку или французский закон 1881 года… Выброшены на свалку столетия юриспруденции, когда юристы пытались определить тонкую границу между защитой и цензурой. То, что еще сохранялось от мифа об общей воле, единственном легитимном законодателе, распылено по строкам кода, создающегося безо всякой огласки. Отныне, когда удаляют ваш пост или по неизвестным причинам банят аккаунт[133], вам приходится обращаться к сотрудникам Facebook. Конечно, государства пока не исчезли и в крайнем случае всегда может вмешаться судья, но чего стоят годы судебных процедур в сравнении с прямым действием алгоритмов? Там, где правосудие еще могло поддерживать видимость правового государства, которое не спешит с выводами, нормы, разработанные частными ИИ, не могут не разделять духа времени, поскольку иначе они вызовут возмущение пользователей. Алгоритмы и социальная ответственность — две стороны пугающего поворота в коллективной морали.

С таким делегированием авторитета многие соглашаются, и многие строят его теории. Марк Цукерберг признал эту миссию — стать фабрикой по производству норм — в большой статье, опубликованной в феврале 2017 года, в которой он говорит о возникновении «глобального сообщества». Facebook и только Facebook — вот кто будет организовывать это сообщество, и именно он возьмет на себя задачу предотвращения зла, то есть будет разоблачать дутые сенсации, публиковать стандарты приемлемого поведения и обеспечивать граждан инструментами управления. Как не увидеть в этом определение суверенитета? Французский президент придумал понятие «сорегулирование», которое должно определить отношения между его правительством и американскими платформами, но никто не возмущается этим явным крахом делиберации[134]. Идея народного суверенитета, сколько бы спорной она ни была в принципе, без лишних разговоров отправляется на свалку истории. Экономист Роберт Аткинсон в тех же категориях выступает за механизмы саморегулирования, включающие всех участников и отражающие определенную форму социального консенсуса[135]. Что касается деятелей самой технологической сферы, то они очень рады получить эти новые полномочия. Ян, энергичный основатель стартапа ZipRecruiter, признаёт, что этические критерии, управляющие рынком труда, определяются внутри самой его компании. Он совершенно не стесняясь мечтает о том, что со своими друзьями-предпринимателями в конце концов подомнет под себя политических представителей, слабых и сплошь бесчестных, в решении всех проблем общества. Несколько более скромно, но не менее решительно гиганты сети создают все новые и новые комитеты по «этике ИИ». На словах протестуя против общей тенденции к приватизации права, на деле они ее полностью разделяют, поскольку самостоятельно определяют как те принципы, которые сами готовы соблюдать, так и те, которым подчиняются их пользователи.