Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Та же дилемма между процветанием и свободами отражается и в публичной политике. Я выяснил это, встретившись в одном сетевом кафе с Джой Бонагуро, chief data officer, директором по обработке данных в Сан-Франциско. Эта должность была создана в 2014 году для управления данными города и опирается на большую команду программистов. Джой, с мальчишеской стрижкой и бойкими ответами, – твердая сторонница прогресса. Я не стал ей перечить, но, когда через несколько месяцев встретил ее на французской земле, набрался храбрости, и мы живо побеседовали об эксцессах движения #MeToo… Джой вместе с учеными из Гарварда работает над этикой алгоритмов и отстаивает защиту частной жизни. Она хвалит правовые нормы штата Калифорния, позволяющие пользователям лучше контролировать собственные данные, особенно благодаря законам о защите прав потребителя. Джой радует возможность применять ИИ для отслеживания собственников, которые занижают стоимость своих владений, чтобы уклониться от налогов, однако она отказывается публиковать постановления о выселении жильцов, поскольку не хочет стигматизировать неплательщиков. В общем, Джой нельзя заподозрить в том, что она сдалась силам надзорного капитализма. В то же время она громко жалуется на джунгли калифорнийских законов, которые мешают муниципалитету оптимально применять данные. Разные отделы местной администрации не имеют права объединять информацию, хотя было бы, например, полезно сопоставить медицинские данные с данными социальных служб, чтобы понять, имеет ли конкретный психиатрический пациент право на пособие… Мы не должны считать США некоей свободной от законов зоной: в Калифорнии, например, был принят свой вариант европейского RGPD.

Следуя левацкой традиции, Джой считает данные общим благом и мечтает о том, как можно было бы объединить все данные города для улучшения работы общественных служб. Однако она сталкивается с теми же противоречиями, что и GAFA: как обеспечить благополучие пользователей, но при этом не нарушить их право на неприкосновенность частной жизни? Джой уже не использует термин «анонимизация» данных, предпочитая ему слово «дезидентификация» и признавая тем самым, что реальная анонимность в мире ИИ – недостижимый идеал. Золотой середины не существует: и для социальной сети фейсбук, и для города Сан-Франциско добродетель стала врагом эффективности. Они стремятся освободиться от чувства вины, публикуя пухлые доклады об ответственном ИИ, что представляется современной, хотя и весьма обременительной формой искупления.

Цифровой империализм

Правительства и генеральные штабы крайне озабочены вопросом кибербезопасности. Но он скрывает в себе другой, более глубокий вопрос: как три эти модели – конфуцианская, стоическая и протестантская – будут взаимодействовать между собой по мере развития ИИ? Останется ли место для различных форм правления, подчиненных разным ценностям, или нужно готовиться к возникновению новых версий империализма?

Вернемся в ресторан рядом с Запретным городом, где меня принимал Чжу Мин, влиятельный экономист, бывший директор китайского Центрального банка и бывший второй человек в МВФ. В промежутке между комментариями о заказанных им деликатесах кухни региона Юньнань Чжу Мин говорит о своей уверенности в ИИ, технологии, призванной спасти человечество и, главное, вернуть Китаю заслуженное им место, место будущего лидера в этой области. Безмятежное лицо моего визави, аристократичные манеры и лаконичность речи – все это окутывает его своего рода метафизической аурой. Впрочем, он не боится порассуждать о двух сторонах человека, дурной и благородной. Экономист тут же превращается в восточного мудреца. Он не торопится. В этом месте с традиционным декором, выходящем на мощеный двор, мы сидим вдали от пекинской суеты. Мне вспоминаются строки Клоделя – меня среди прочего пичкали им в лицее, готовя к Высшей нормальной школе: «Те места, которые у европейцев служат для развлечений и игр, китайцы посвящают уединению. В городском котле, среди кипящих простым людом улиц, знатный китаец выгораживает для себя просторный участок, отделенный широкой оградой, или одинокую вотчину вместе с духами предков»[164]. У нас не бизнес-ланч, мы сидим в одном из таких праздных мест. Что может родиться в таком месте, если не истина?

Мой собеседник щедро подкладывает мне разные деликатесы, возможно, чтобы лучше подготовить меня к последнему приговору: «Европейцы окончательно отстали – в финансовом, военном, технологическом и одновременно политическом плане». Наше будущее – загрузить приложение Alibaba, чтобы продавать китайцам сыр. Так пророчествует Чжу Мин.