Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Почему все это нужно драматизировать? Если признание беспилотной машины юридическим лицом остается относительно благовидной гипотезой, решающей, по сути, лишь вопрос страхования, то применение того же самого рассуждения к логике nudge привело бы к гораздо более глубокому следствию, а именно к утрате юридического лица людьми. Если нейронауки вкупе с ИИ заставляют нас признать, что наши действия в значительной степени безответственны, не следует ли в самом деле делегировать часть наших прав и обязанностей роботам? Чем более эффективно применяется nudge, тем меньше можно считать индивида ответственным за его поступки. Единственным мотивом для обвинения человека стало бы как раз несоблюдение рекомендаций машины… Чтобы довести логику ИИ до конца, представим, что мы двигаемся в пространстве турникетов, где нас то в одном направлении, то в другом толкает магия nudge. Разве не будет тогда неразумным привлекать нас к суду в том случае, если мы сталкиваемся с кем-то и причиняем ему вред? Мы ведь просто следовали заранее установленной траектории, рекомендованной нам в полном соответствии с наукой, траектории, которая к тому же, в согласии с утилитаристской гипотезой, должна считаться благоприятной для всего остального сообщества. Ошибка могла быть совершена только самим турникетом, который, возможно, был поставлен в неправильном месте, но он наверняка запрограммирован так, чтобы тут же возместить жертве ущерб.

Почему Декларация прав человека, написанная еще до Дарвина, когда человеческая сущность еще считалась составляющей естественного теологического порядка, должна оставаться неизменной? Если системы ИИ способны предвидеть, оказывать влияние и даже руководить нашим поведением, можно ли все с той же уверенностью утверждать, что мы «родились свободными», как считал Руссо и как сказано в первой статье Декларации прав человека 1789 года? Наделить роботов статусом юридического лица — значит закрепить на правовом уровне конец эпохи просвещения.

Итак, больше никто ни в чем не виноват. За все теперь отвечает один лишь алгоритм.

Общество без предрассудков

Борьба с предрассудками стала настоящим наваждением в американских прогрессистских кругах. Там нужно вечно доказывать, что ты не из враждебного лагеря. Так, я был на конференции по демократии в New America, известном аналитическом центре, непартийном и вполне традиционном. Там обсуждалось недостаточное влияние общественного мнения на социально-политические институты. Потом пришло время вопросов аудитории. Одна участница спросила, не связана ли вся проблема с тем, что США были основаны белыми мужчинами. «Именно так», — с энтузиазмом ответил оратор. Остальные участники, университетские преподаватели и исследователи, поспешили покивать, боясь, что их навсегда заклеймят как предателей, привилегированных сторонников идеи превосходства белой расы. Вопрос, возможно, и в самом деле стоило поставить, однако этот единогласный ответ пробудил у меня сомнения… Вот другая история, открывшая мне глаза: воркшоп о «женщинах в технологиях», которых там и вправду мало. Организаторка выстроила нас в ряд и попросила белых сделать шаг вперед. Потом мужчинам предложили сделать еще шаг вперед, а затем отступить, если у нас нет диплома, и т. д. В результате была создана «шкала привилегий», о которой нас и попросили поговорить, когда мы уселись в кружок, как на собрании анонимных алкоголиков. Мне это упражнение показалось совершенно контрпродуктивным: в нем каждому предписывается его гендерная, генеалогическая или «расовая» идентичность, а потому мы сводимся к биологическим или историческим данным, которые наше общество как раз и должно было дать нам возможность преодолеть.

В беседах перед интервью меня много раз спрашивали, почему я, «белый мужчина», интересуюсь ИИ. Раньше я никогда не рассматривал себя в качестве «белого мужчины» (так же как не определяю себя в качестве человека «ростом 185 сантиметров с карими глазами»). Я по-прежнему стараюсь считать, что главная цель антирасизма должна заключаться в том, чтобы лишить цвет кожи значения, а не формировать сообщества, определяемые частными интересами. Как бы там ни было, любое трезвое обсуждение этих вопросов стало совершенно невозможным.