Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Отсюда споры о том, можно ли считать роботов субъектами права. О такой возможности говорит, в частности, исследователь из Rand Corporation, включающий эту проблему в ряд других мрачных перспектив — тотального контроля и автономного вооружения: «Потребуется дать роботам право подавать иск, а также допустить, чтобы против них подавались иски, — но на чем именно мы остановимся? Дадим ли мы им право носить оружие в соответствии со Второй поправкой?» Честно говоря, при мысли о такой перспективе я просто теряю дар речи. Роботы перед лицом правосудия? Уходя с этой странной встречи, проходившей в одном из самых старых и влиятельных аналитических центров США, я решил пройтись по пляжу Санта-Моники, чтобы вернуть себе чувство реальности, которое ИИ, похоже, готов разрушить: глубокий песок, прохладные волны Тихого океана, скалистые уступы вдалеке.

Слабое утешение… Французский адвокат Ален Бенсуссан, создатель Ассоциации прав роботов, преподнес идею о юридическом статусе роботов настолько успешно и с таким блеском, что Европейский парламент принял в 2017 году резолюцию, призывающую Еврокомиссию выпустить директиву по этому вопросу. Рассуждение Алена Бесуссана основано на будущей способности самообучающихся ИИ принимать практически автономные решения, так что вину нельзя будет переложить на программиста алгоритма. Следовательно, роботу нужно будет выдавать цифровую регистрацию, удостоверение личности, определенный капитал, зависящий от рисков, и страховку от гражданской ответственности. И если индустриальная эпоха наделила юридическим лицом предприятия, цифровая эра предлагает нам продумать ту же возможность для алгоритма. Так, при несчастном случае или судебном разбирательстве информационные системы смогут напрямую общаться друг с другом, чтобы оценить понесенный ущерб. Вершить правосудие в таких условиях было бы проще: у роботов, по крайней мере пока, есть полезное качество — они не знают ни самообмана, ни лжи. А поскольку отправить алгоритм в тюрьму сложно, главное в такой процедуре — вопросы возмещения ущерба, ради которого, как можно представить, предприятия ИИ создадут специальные фонды. Две беспилотных машины столкнулись друг с другом на перекрестке? Они смогут за несколько секунд проанализировать степень ответственности друг друга и перейти к урегулированию конфликта.

Сегодня эта тема обсуждается юристами во всем мире[121]. Она вызывает бурные реакции. В апреле 2018 года более двух сотен экспертов, в том числе многочисленные юристы, подписали открытое письмо против резолюции Европарламента. С одной стороны, они полагают, что самообучающиеся системы не достигли зрелости, достаточной, чтобы считаться автономными, но это технический аргумент, который вскоре, возможно, будет опровергнут ИИ. С другой стороны, они указывают на своего рода юридическую тавтологию: предоставлять права роботам — значит, по определению, противоречить правам человека, как они определены в различных европейских законодательствах. Поскольку естественные права были придуманы для человека, ими нельзя наделять другие формы существования. Такое рассуждение, основанное на безусловном соблюдении современного статус-кво, отсылающего к естественному праву, в принципе отказывается допускать, что решение может приниматься не только человеком. Однако в нем косвенно признаётся, в какой степени наделение роботов статусом юридического лица потрясло бы фундаментальные структуры наших правовых систем, которые покоятся на принципе индивида, наделенного свободой воли и способного делать выбор между добром и злом или, по крайней мере, между соблюдением закона и его нарушением[122].