Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Задача цифрового империализма заключается вовсе не в совершенствовании военных техник. Уильям дает мне простую подсказку: «Сегодня, чтобы контролировать людей, уже не нужно контролировать территории». Целью войны редко был захват пустых земель, задача скорее состояла в том, чтобы подчинить себе правителей и поработить население. Это и есть тезис Клаузевица, известного прусского военного стратега, когда он определяет войну в качестве «акта силы, цель которого – принудить противника исполнять нашу волю», или, согласно его знаменитой формуле, «продолжения политики другими средствами». Война – это прежде всего действия определенных людей, нацеленные на то, чтобы властвовать над другими. Вторжение на территорию представляет собой простой способ удовлетворения этой жажды господства. Если благодаря хитрым техникам nudge ИИ позволит нам изучать и контролировать людей удаленно, зачем завтрашним победителям захватывать физические пространства? Не будет ли манипуляция поведением экономнее, эффективнее и более соответствующей нашей мирной культуре? Лучше руководить миллионами покупок, чем грабить города. Результат будет тем же: экономический выигрыш и удовлетворенная гордыня.

Когда Чжу Мин предложил французским производителям продавать сыр на сервисе Alibaba, он имел в виду не столько выживание Европы, сколько ее окончательное порабощение. Передавая свои данные Alibaba, чтобы получить доступ к платформе, производители сельхозпродукции окажутся в руках китайского гиганта электронной торговли. Представим себе историю некоей Берты, которая владеет семейной сыродельней в кантоне Юра, где многие поколения ее семьи производят сыр конте. На рынке Лон-ле-Сонье она продает не очень много, поскольку местное население предпочитает закупаться в крупных супермаркетах. Самый большой доход она получает от экспорта, в основном в Бельгию и Германию, но также все больше и в Китай, где конте считается теперь продуктом «с подтвержденной подлинностью наименования» и готовится стать люксовым товаром. Берта, однако, жалуется на то, что поставщики берут большой процент. Тогда ей предлагают перейти на платформу Alibaba, которая занимается всей логистикой в обмен на довольно скромные комиссионные. Берта в восторге от сервиса и, чтобы упростить интеракции, открывает счет Alipay. Анализ счетов за связь, производимый Alipay, вскоре убеждает ее в том, что надо отказаться от традиционного оператора и перейти на продукцию компании Huawei. Вскоре основная часть ее продукции отправляется в Китай. Однако заказы приходят нерегулярно, что усложняет хранение запасов. Чтобы улучшить прогнозирование спроса со стороны новых агентов, Берта присоединяется к сервису AliGenie, личному ассистенту, способному анализировать поведение сотен миллионов пользователей Alibaba. AliGenie может предлагать новые варианты: так, он рекомендует Берте идентифицировать своих коров методами распознавания лиц; ИИ выявляет таким образом лучших производителей, устанавливает часы дойки и отправляет предупреждения при первых признаках заболеваний. Наконец, чтобы продвигать свою продукцию на рынке, Берта загружает Taobao, социальную сеть Alibaba, которая снабжена автоматическим переводом. Taobao тут же дает ей доступ к информации, разбросанной по китайским медиа, и она постепенно привыкает комментировать их в сети. В разговорах, которые возникают у нее комментариях, она никогда не забывает упомянуть о своем сыре конте.

Через пять лет предприятие Берты процветает. Фермерша только улыбается, выслушивая рассказы коллег, погрязших в запросах субсидий по программе Общей сельскохозяйственной политики (PAC). Теперь ее бизнесом управляет AliGenie: он руководит производственными процессами, определяет уровень производства, контролирует состояние стад и ведет бухгалтерию. То же относится и к личным покупкам: Берта привыкла использовать Alipay, так что бо́льшая часть ее трансакций проходит за пределами европейской банковской системы – производимая ею стоимость пополняет китайский ВВП. На последних выборах Берта голосовала за кандидата Национальной партии: она убеждена, что Евросоюз – диктатура, от которой надо как можно быстрее избавиться. Ее недавнее путешествие в Китай, предложенное AliGenie и организованное Alitrip, убедило ее, напротив, в ценностях китайского коммунизма, отлично организованного и выгодного всему населению. Кроме того, там она встретилась с одним из своих клиентов, рекомендованных Alipay, и у нее завязались с ним многообещающие отношения: алгоритм нашел настоящее сокровище – человека, который учился во Франции, увлекается гастрономией и только что открыл производство одежды в Юре для местного европейского рынка. Единственная забота Берты теперь – сохранить свои 4,6 звезды на Alibaba. С этой целью она тщательно исполняет все советы AliGenie и обязательно отмечает национальные китайские праздники на Taobao. Она даже поставила скромный китайский флажок на конек фермы и сфотографировалась под ним для своего профиля.

Вот так Китай и завоевал Берту – без единого выстрела.