Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Главная задача алгоритмов, разрабатываемых в City Brain, — повысить мобильность трафика. Данные о нем поступают из разных источников: геолокализации автомобилей, сенсоров на дорогах, камер видеонаблюдения, изображений, передаваемых компании Alibaba властями. City Brain может также формулировать автоматические рекомендации, которые тут же применяются на местах: так происходит перенастройка светофоров в реальном времени, закрываются или открываются в случае нужды те или иные трассы, направляются постовые, распространяются сообщения о дорожном движении, особенно уведомления, посылаемые прямо водителям через основные навигационные приложения. То есть это система, в которой ради достижения оптимальной эффективности объединены частные и публичные инструменты. После ее внедрения пробки в городе сократились на 11 %. Та же логика используется для уборки улиц, распределения парковочных мест и контроля качества воздуха. City Brain использует данные государственных властей, а сам, получив их, изобретает услуги для потребителей: это полюбовная сделка, которой довольны обе стороны.

Однако другие, менее известные услуги Alibaba вызывают больше опасений. Например, City Brain помогал полиции с интеграцией и модернизацией ее баз данных. Благодаря специальным камерам, установленным по всему Ханчжоу, инженеры Alibaba внедрили систему распознавания лиц, способную учитывать информацию из социальных сетей и интернета в целом. Цель в том, чтобы получить возможность идентифицировать каждого гражданина Ханчжоу, отслеживая в одном стандартном формате его передвижение, поведение, а также социальные связи. За несколько секунд можно узнать, кто вы такой, где находитесь, что делаете и с кем недавно встречались. City Brain позволяет найти в городе машину по ее номеру или преступника по обычному фото. Для предупреждения преступлений полиция может также опираться на предсказательный анализ City Brain. Мой собеседник с гордостью разъяснил мне все эти технические достижения, в которых, с его точки зрения, нет ничего сомнительного. На мои скромные возражения он ответил доводами здравого смысла: разве мы не хотим жить в безопасности? Сегодня муниципальные власти вполне удовлетворены результатами, а гражданин даже не подозревает, что за ним ведется наблюдение. Окрыленная этим успехом, Alibaba готовится внедрить систему City Brain в пятнадцати других городах, в том числе и в соседних странах, например в Малайзии. И ведь это только первые шаги городской оптимизации… В будущем технология City Brain сможет применяться для городского планирования, управления водоснабжением и электрическими сетями: «У граждан не будет другого варианта, кроме как сохранять постоянное подключение к сети». City Brain сможет еще ближе узнать их и еще больше улучшить наши условия жизни, строго присматривая при этом за теми, кто хотя бы на дюйм отклонился от истинного пути.

Мой молодой собеседник говорил с таким воодушевлением и уверенностью, что мне просто не хватило смелости показать ему свое возмущение. Наши точки зрения, вероятно, попросту непримиримы. То, что для него является постепенно создаваемой утопией, мне кажется антиутопией, ставшей реальностью. «Китай — это как пирамида, управляемая сверху», — сказал он в самом начале разговора. Нужно понимать, что центральная власть или силы правопорядка не вызывают у китайцев инстинктивного отторжения. Чтобы убедиться в этом, достаточно провести один час в Музее полиции в Пекине. Кажется, что ты в «перевернутом» берлинском музее «КПП Чарли» — здесь все наоборот: диссиденты представлены не героями, а предателями, репрессии считаются не отвратительными, а вполне законными. Так, арест заговорщиков Гоминьдана стал поводом для чествования, а памятные мероприятия на площади Тяньаньмэнь известны превосходным обеспечением безопасности… Висящая там табличка, во избежание недоразумений, объясняет, как «полиция под руководством Коммунистической партии Китая постепенно завоевала доверие и поддержку Партии и Народа». В стране, где история средств надзора восходит к 221 году до н. э., к императору Цинь Шихуану, критика установленного порядка не приветствуется.

Китайская парадигма проясняется: «озеро данных», питаемое самыми разными источниками, используется гигантами ИИ с благословения правительства и под пристальным контролем полиции. Гражданин, круглые сутки подключенный к сети, выигрывает в благополучии и безопасности. Какой же безумец станет на это жаловаться — в стране, где еще жива память о гражданской войне и голоде?

В качестве объяснения этого тревожного равнодушия к свободам порой можно прочитать, что китайское общество вступило в индивидуалистическую, консьюмеристскую, аморальную эпоху[155]. С моей точки зрения, это слишком поспешная оценка, в которой западная схема интерпретации проецируется на сложное общество. Китай не готов бежать за прогрессом, отказавшись от всякой этики. Наоборот: он поднимает ИИ на щит именно потому, что эта технология соответствует его глубинным ценностям.