Конец индивидуума. Путешествие философа в страну искусственного интеллекта

«В древнем споре между контролем и свободой побеждают порядок и эффективность».

«Творческих людей очень мало. Единственный смысл существования подавляющего большинства – вклад в ВВП».

«Люди не способны делать свободный выбор».

«Большинство людей предпочитает не пользоваться своим мозгом, а потому ими проще манипулировать».

«Нас ждет будущее, о котором говорил Азимов. Небольшой процент людей будет контролировать всех остальных».

«В будущем можно будет узнавать о малейшем движении каждого гражданина».

«Чем больше правительство оцифровывает вашу жизнь, тем больше оно ее контролирует».

И, наконец, мой любимый: «ИИ помогает Коммунистической партии увеличивать количество времени, которое люди проводят, тупя за телефоном».

Как это часто бывает в Китае, мои возражения благожелательно выслушивались, но решительно отвергались. Зачем гарантировать свободы, если они ведут к хаосу и несчастьям? Не учит ли нас история тому, что толпе нужен вождь? Если этот вождь прячется в вашем телефоне, если он удовлетворяет все ваши потребности, так что вы даже не успеваете формулировать свои запросы, – это и есть прогресс! Даже один затесавшийся в нашу компанию гуманист, защищавший «ренессансное образование», не видел никаких проблем в том, чтобы использовать камеры распознавания лиц для определения эмоций ребенка.

Какой контраст с калифорнийскими гиками, воспевающими «инновации-которые-меняют-мир»! Однако это могут быть точно такие же предприниматели, обучавшиеся тем же технологиям, работающие с теми же рисками и с такими же продуктами. Но если американский стартапер, занимающийся «геймингом», попытается убедить вас, что видеоигры развивают когнитивные способности, укрепляют социальные связи пользователя и помогают ему обрести уверенность в себе, то его китайский коллега прямо объяснит вам: цифровая аддикция позволяет одновременно создать как зависимость от платформы, так и безусловное подчинение действующей власти – два в одном! Однако такая откровенность не кажется мне ни полезной, ни ободряющей: КККК слишком хорошо позволяет представить предельные политические следствия неограниченного применения ИИ.

Когда китайцы все же признают определенные опасности, создаваемые ИИ (например, связанные с ростом неравенства), их ответ формулируется в рамках того же холистического подхода. Так, Кай-Фу Ли, в частных разговорах о достоинствах ИИ высказывающийся гораздо умереннее, чем на сцене TED Talk, предлагает компенсировать автоматизацию рабочих мест определенной формой универсального дохода, который, однако, привязывается к услугам, оказанным обществу в целом. Этой «социальной зарплатой» следует вознаграждать людей за творческую деятельность, имеющую коллективную ценность… что противоположно «индивидуалистическому» взгляду на универсальный доход, как он понимается в Кремниевой долине. Напомню, вопрос «конца труда» представляется мне переоцененным. Кроме того, китайское решение опирается на интерес группы, которой нужно будет отдавать не только свои данные, но также свое время и свою жизнь. Чтобы компенсировать недостатки КККК, понадобится еще больше КККК!

Если бы я хотел подытожить одной фразой состояние умов, ныне царящее в Китае, то процитировал бы экономиста Чжу Мина, бывшего заместителя директора Международного валютного фонда, который как-то пригласил меня на обед в элитный ресторан рядом с Запретным городом: «Чего нам будет недоставать из эпохи до ИИ? Ничего».

Европа, или Самоубийство по заветам стоиков

В Древней Греции один родосский военачальник попал в плен. Его бросили в яму и кидали туда пищу, как дикому зверю. Проходящий мимо человек посоветовал ему отказаться от еды и умереть от голода. Но военачальник ответил: «Пока человек жив, он может надеяться». В одном из своих писем Луцилию Сенека красноречиво осудил эту позицию, назвав ее «женской слабостью». Нет, жизнь нельзя покупать любой ценой. Нужно быть готовым умереть, но не отказываться от своего достоинства. Самоубийство составляет часть инструментария стоика; это последнее средство самоконтроля, применяемое, когда внешние обстоятельства становятся непреодолимыми. Ведь «судьба не может сделать ничего тому, кто знает, как умереть».