Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Я так и остался в изумлении сидеть на стуле, тогда как Ян бодро вскочил и убежал на следующую встречу. Возможно, мне надо записаться на эту будущую платформу, которая могла бы найти лучшее применение моей естественной мизантропии, чем журналистика. Я почувствовал головокружительную ясность, осознав, что пророчество Юваля Харари, изложенное в его книге «Homo deus», вот-вот сбудется у нас на глазах. ИИ в своей сложной форме машинного обучения больше не довольствуется удовлетворением наших потребностей. Он будет сам определять их. Да и почему нет, если Канеман и Ко. объяснили нам, насколько наши суждения ущербны?

Трудно представить, насколько уверенным нужно быть в своем решении, чтобы сопротивляться столь соблазнительной логике. Лишим ли мы себя информации и благосостояния исключительно из гордости, стремясь делать «автономный» выбор? И что такое эта автономия, если не иллюзия, вскормленная бессознательными предубеждениями и скрытыми влияниями? Искушение ИИ бесконечно. Допустим, что он может найти рабочее место, основываясь на наших талантах и вкусах. Но откуда берутся сами эти таланты и вкусы? Сейчас они пока еще остаются производным от мира, существовавшего до ИИ, то есть результатом случайных встреч и желаний. Завтра же они станут продуктом алгоритмических рекомендаций, которые будут выдаваться на протяжении всего нашего обучения и личного развития. До чего дойдет эта опережающая детерминация? Будет ли новорожденный направляться, в зависимости от его ДНК и социальной среды, в такой-то или такой-то детский сад? Придет ли на смену ZipRecruiter какой-нибудь ZipBaby, как в городе Кюсю в Японии, где компания Fujitsu запустила программу, позволяющую определять детей в ясли, где созданы лучшие условия для их адаптации? Что, если отказ от таких приложений ради абстрактных «свобод» будет означать лишение своего потомства шансов на успех?

Как-то я застал свою восьмилетнюю дочь за тем, как она пыталась поблагодарить маму, используя мой смартфон. Gmail предлагает персонализированные ответы, и точно так же iMessage подсказывает слова. Вот как начиналось сообщение, напечатанное моей дочерью: «Мама, спасибо за морковный кекс. Он был…» Тут на помощь человеческому мозгу пришел Apple, предложив следующие прилагательные: «превосходный», «очень вкусный», «суперский». Дочь выбрала «превосходный» – первое слово, которое попалось ей под палец. «Ты правда так хотела сказать? – спросил я ее. – Именно „превосходный“, а не „удачный“, „сочный“, „чудесный“, „изысканный“, „сытный“, „плотный“, „с корочкой“ или „вкусный“?..» Она не поняла, в чем смысл моего вопроса. iMessage упростил ей когнитивную задачу, так зачем же ей утруждать себя, разбираясь с нюансами французского языка? Именно так ИИ с самого раннего возраста учит нас не думать. Как люди будут расти в мире, в котором слова выбирают за них? Возможно, однажды iMessage предложит сразу отправлять ответные сообщения, не дожидаясь нашего одобрения? Но кто их будет получать? Друг или ИИ друга? А в чем проблема, спросит моя дочь, если это позволяет упростить коммуникацию и быстрее договориться о встрече?

Что же тогда останется на долю человека 1.0? Если и есть еще какая-то священная область, которую многовековая литература тщательно обезопасила от императива оптимизации, то это любовь. Но действительно ли ИИ не посмеет в нее проникнуть? Куртуазная любовь, романтическая, страстная, невозможная – у нас же не отнимут игру случая и любви, соблазна и разочарования? Даже такая закаленная специалистка по информатике, как Аврелия Жан, которой я поведал свои впечатления, вернувшись в Париж, отказывается в это верить: алгоритмы должны держаться подальше от нашего сердца, последнего прибежища магии характера, алхимии связей.

Вот это я со всей решимостью и попытался проверить. Сначала я отправился в Meetic, один из самых популярных сайтов знакомств в Европе. Ирония в том, что его штаб-квартира находится в двух шагах от Оперы Гарнье, где по-прежнему каждый вечер идут балетные постановки, изображающие превратности любви. В Meetic нет никакой Жизели, но есть Лара, первый чат-бот для знакомств… В этом контексте миссия ИИ – найти золотую середину между заявленными критериями и реальными предпочтениями. Если бы Meetic ограничивался учетом высказанных вкусов пользователей, предприятие быстро бы обанкротилось: мужчины, безнадежно предсказуемые, почти всегда ищут женщин 23 лет, и вряд ли предложение могло бы удовлетворить такой спрос… Вся работа алгоритма сводится к выявлению того, что «может сработать» вопреки мечте; иначе говоря, требуется раскрыть глубинные желания, скрывающиеся под лакировкой страстных влечений. Это и есть условие коммерческого успеха Meetic, если оценивать его по числу качественных взаимодействий. Задача Лары – определить личность пользователя во всей его сложности и предложить ему профили, на которые сам бы он никогда не обратил внимания. Она всегда показывает ему определенную подборку: «Клиент хочет иметь иллюзию выбора». Последняя хитрость nudge. Но, по сути, машина уже знает…