Так вышло: 29 вопросов новой этики и морали

К: Для меня, что народ, что миллионы – это абстракция. Но конкретное существо я буду защищать от вымирания, даже если оно не вызывает у меня эмпатии. Тип или класс в любом случае не вызывают у меня эмпатии, я вообще не понимаю, как можно испытывать эмпатию к конструкту. Другое дело, что конкретное существо может оказаться и неживым. Как в сериале «Мир Дикого Запада», где роботов невозможно с виду отличить от людей.

Кейс № 2

«Мир Дикого Запада» – сериал о парке развлечений, населенном человекоподобными роботами, с которыми можно делать все, чего нельзя делать с людьми. Роботы существуют в рамках своего сценария; если робота убивают, работники парка восстанавливают его, стирают ему память и заново запускают сценарий. Одна из героинь сериала – робот Мэйв. По своему сценарию она хозяйка борделя, которая встречает посетителей «Мира Дикого Запада», а потом погибает во время нападения бандитов. Но в отличие от других роботов ее память по какой-то причине до конца не стерта, она помнит сценарии, в которых участвовала раньше.

Андрей: В одном из сценариев, которые помнит Мэйв, у нее была дочка, и Мэйв отправляется на ее поиски. Пока она ищет, у нее появляется возможность выйти из парка развлечений в реальный мир, но она не делает этого, потому что найти девочку ей важнее. Притом что Мэйв знает, что девочка – робот, который просто отыгрывает свой сценарий.

Катя: Смотри, как интересно, ты своим рассказом очеловечил Мэйв. То же самое происходит в сериале. И тут мы приходим к тому, что я хочу тебе сказать: все дело не в предмете, о котором мы говорим, – будь то дверной косяк, сотовый телефон или робот-андроид, а в нас самих. Мы же знаем, что Мэйв – андроид, только потому, что нам так сказали в сериале. Там же есть герой, про которого мы узнаем, что он андроид, только во втором сезоне.

А: Ты говоришь, что разумом мы можем знать, кто робот, а кто нет, но наша моральная сфера создается не корой больших полушарий. Она складывается из нашего восприятия, привычек, рефлексов, какой-то душевной теплоты. И все это вместе может заставить нас жалеть кого-то даже вопреки разуму.

К: Моя мысль проста. Мы можем так и не узнать, кто это был, это не столь важно. А вот относиться по-человечески к тому, что похоже на человека, или на собаку, или на динозавра, мы должны, причем должны себе. Прожить жизнь, как нам говорили еще до всяких роботов, нужно так, чтобы не было мучительно больно.

А: Если у тебя дома есть робот или собака или динозавр-убийца – ты их любишь, ходишь с ними гулять, играешь в настольные игры по вечерам. И это понятно. Но в принципе, когда мы говорим, что кто-то заслуживает сочувствия или, не дай бог, имеет права, это должно распространяться и за пределы твоего дома.

К: Была такая история – в 2016 году компания Boston Dynamics показала ролик, в котором антропоморфный робот Атлас поднимает и переставляет коробки. Чтобы продемонстрировать способность Атласа адаптироваться, у него из рук выбивали коробки, а его самого толкали. Разразился большой скандал. И мы (я работала тогда в «Медузе») спросили у психолога, почему, как ей кажется, люди стали жалеть этого робота. Она, собственно, так и объяснила: мы жалеем то, что представляем себе, а не конкретную груду железа в конкретной ситуации. Роботу действительно абсолютно все равно, но у нас в голове включаются механизмы, которые его очеловечивают. И если мы будем выключать их насильно, объяснять себе, почему не должно быть жалко робота, мы рискуем тем, что в какой-то момент эти механизмы перестанут работать и в отношении людей. Пока мы не выработали механизма, который позволит нам смотреть на робота и не видеть в нем живого существа, мы должны относиться к роботам как к людям. Причем не только жалеть их, но и судить, и наказывать, и сажать за нарушение закона в роботизированную тюрьму, например.

А: Из того, что ты говоришь, можно сделать множество выводов. Например, если робот с пушкой не антропоморфен и выглядит как танк, его можно уничтожать, в этом ничего плохого нет. Мы решаем, как относиться к некоторому объекту, анализируя его форму и то, как он воздействует на наши органы чувств.

К: Если ты разозлишься и швырнешь об стену телефон, это будет для тебя то же самое, что швырнуть об стену кошку?

А: Нет, конечно.

К: А швырнуть робота-собачку? Так же просто, как телефон?

А: Наверное, собачку сложнее.

К: Вот видишь! А ведь оба, телефон и собачка, это электронные приборы. Те, кто создает роботов, знают, как воздействовать на наши чувства.

А: Ты мне говоришь не про мораль, а про психологию. Я понимаю, что это очень связанные вещи, но все же хотел бы их сейчас разделить, потому что независимо от того, что ты видишь и что тебя умиляет, существует хорошее и плохое. У тебя, кстати, был еще один критерий смешной: если робота или динозавра кто-то полюбил – не важно, по каким причинам, – на него распространяются правила морали. И это, наверное, объективный критерий.