Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Каждая страна и культура подходит к ИИ на свой манер, в соответствии c тем, как она понимает индивида и общество. Китай подхватил ИИ с особым энтузиазмом и теперь на базе этой технологии строит альтернативу западной модели развития. Размах китайского проекта стал мне ясен, когда солнечным днем я сидел в кафе на Юнион-сквер посреди типичного для Сан-Франциско коловращения бездомных, туристов и стартаперов. Я разговаривал по телефону с Мартином Чорземпой, который написал для исследовательского института Петерсона подробный доклад о «социальном кредите». Эта система персонального рейтинга, введенная китайскими властями, в западной прессе описывается в категориях мрачных фантазий Оруэлла. Что это такое — простой инструмент, облегчающий доступ к банковскому кредиту, как он первоначально и был задуман, или же каталог всего населения страны, в котором алгоритмы приписывают каждому гражданину определенный рейтинг в зависимости от его социального поведения и назначают соответствующее вознаграждение? Научная статья, одним из соавторов которой выступил Мартин Чорземпа, отличилась взвешенным и точным анализом[147]

. Прежде чем отправиться в Китай, я хотел разобраться в этой ситуации.

По словам Мартина и его соавторов, цель этого кредита, появившегося в 2014 году, первоначально состояла в усовершенствовании социально-экономического развития за счет оценки доверия граждан друг к другу. Банковский кредит — не более чем один из аспектов системы, призванной также предупреждать уклонение от налогов и повышать прозрачность управления. Задача была в том, чтобы разработать высокотехнологичную систему управления, в которой каждый получал бы признание по его истинной ценности. Мартин допускал, что эти первоначальные благие намерения действительно могли привести к улучшению роста и даже социальной включенности. Однако социальный кредит превратился в беспрецедентный инструмент надзора, так что миллионам китайских граждан теперь запрещено летать на самолете, поскольку они слушали слишком громкую музыку, прогуливали собаку без поводка или же публиковали неприемлемые сообщения в социальных сетях. Развитие этой системы, которая пока находится на стадии тестирования, представляется неизбежным. При этом социальный кредит окутан тайной: позднее в Пекине один журналист из Caixin

, наиболее независимой газеты в Китае, расскажет мне, что не знает своего собственного рейтинга и что эта тема заслуживает дополнительного исследования…

Отсюда вопрос, поставленный Мартином во введении к статье: что такое социальный кредит — признак прогресса или угроза частной жизни? Ответ оказался несколько более двусмысленным, чем можно было ожидать. Все еще можно надеяться на то, что кредит вернется к своему первоначальному призванию. Однако сама логика ИИ требует непрерывно расширять область доступных данных. С точки зрения алгоритмов, чтобы точно оценить платежеспособность заемщика, вполне логично учитывать его школьные отметки, семейные отношения и даже политические взгляды. Разве не справедливо, что хороший гражданин, серьезность и надежность которого может быть подтверждена всеми окружающими, с бо́льшей легкостью получит заем, чем мошенник и манипулятор? Если есть средства предсказать поведение помимо простой кредитной истории, почему бы не воспользоваться ими? Не собирается ли Facebook пойти тем же путем, введя свою валюту «Либра»? Надзор в таком случае представляется не столько политическим отклонением, сколько технологическим требованием. Социальный кредит — это одновременно экономический прогресс, средство обеспечения социальной справедливости и угроза частной жизни, и их невозможно отделить друг от друга.

Повесив трубку, я остался в глубочайших сомнениях. В словах Мартина я почувствовал некоторое смущение. Как не усомниться в социальной философии, на которой зиждется социальный кредит? Я сам рос под тенью учения Фукуямы, связывающего экономическое процветание с индивидуальной свободой. Мне всегда говорили, что одно невозможно без другого, и именно по этой причине список либеральных демократий в целом совпадает со списком развитых стран. Интеллектуальная собственность, свобода слова и правовое государство — вот что поощряет инновации и инвестиции, и тогда экономическое развитие порождает средний класс, озабоченный своими правами. Даже сегодня историк Нил Фергюсон связывает успех Запада с такими свободами, как право собственности и принцип конкурентности[148]. Однако социальный кредит доказывает, похоже, прямо противоположное: только подчиняя всех граждан едва ли не тотальному режиму прозрачности и подвергая их постоянному социальному давлению, можно максимизировать результаты, на которые способны алгоритмы. Общее благо имеет свою цену.