Живым голосом. Зачем в цифровую эру говорить и слушать

Идея перешла к новому поколению: роботы предлагают отношения без риска: “ничего плохого не случится”, если у вас будет робот в качестве друга или, как представляет себе эта девушка, в качестве романтического партнера. Но давайте внимательно рассмотрим то простое избавление, на которое мы рассчитываем в компании робота. Мы, конечно же, столкнемся с первой проблемой: время, проведенное с роботами, мы уже не сможем провести друг с другом. Или с детьми. Или с самими собой.

И вторая проблема: хотя болтовня с постоянно доступным роботом – это способ никогда не испытывать чувство одиночества, мы все-таки будем одиноки, участвуя в “как будто” разговорах[329]. А что, если практика даст отличные результаты и мы вообще забудем, что такое настоящая беседа и почему она имеет значение? Поэтому я очень обеспокоена ситуацией с “краудсорсинговым” терапевтом. Такую ситуацию преподносят как путь в направлении еще более автоматизированного заместителя, но при этом не боятся использовать слова “терапевт” или “беседа” для описания того, что нам предлагается.

Умные игрушки: уязвимость перед ситуацией “как будто”

В конце 1970-х, когда я только приступала к изучению взаимоотношений компьютеров и людей, я обратилась к детям. Первое поколение электронных игрушек и игр (с их напористой демонстрацией умений) еще только выходило на массовый рынок. В глазах детей новые игрушки, как и люди, обладали интеллектом, но, как это виделось детям, у людей, в отличие от компьютеров, есть эмоции. Чувства – вот что делает людей особенными[330].

Мальчик двенадцати лет рассказывает: “Когда появятся компьютеры, такие же умные, как люди, компьютеры будут выполнять самые разные задачи, но все-таки и для людей найдется работа. Люди будут управлять ресторанами, пробовать еду, и именно они будут любить друг друга и обзаводиться семьями. Думаю, только они будут по-прежнему ходить в церковь”. И, в сущности, в середине 1980-х – начале 1990-х люди любого возраста находили возможность сказать: хотя симуляция мышления может быть мышлением, симуляция чувства – это все-таки не чувство, а симуляция любви – не любовь.

А потом, в конце 1990-х, произошли глубинные преобразования. Теперь цифровые объекты преподносились как нечто обладающее чувствами. Виртуальные любимцы, такие как Tamagotchi, Furby и AIBO, были предложены в качестве товарищей по играм; они просили, чтобы о них заботились, да еще и вели себя так, словно это имело значение. И стало ясно: это действительно имело значение для детей, которые о них заботились. Мы устроены так, чтобы пестовать тех, кого мы любим, но также и чтобы любить тех, кого пестуем.

Когда мы кого-то пестуем, это оказывается “убойным приложением”. Едва мы начинаем заботиться о цифровом создании, учить или развлекать его, у нас возникает привязанность к нему, а потом мы ведем себя так, “как будто” это создание в ответ заботится о нас.

Если у детей сформировалось убеждение, что у коммуникабельных роботов есть чувства, дети уже не готовы рассматривать людей как нечто особенное из-за того, что у них есть эмоциональная жизнь. Я опрашивала многих взрослых, склонных говорить о детских привязанностях к отношениям в стиле “как будто” примерно следующее: “Что ж, это мило, они это перерастут”. Но с такой же, если не с большей, вероятностью эти дети не перерастут свои привычки привязываться к неодушевленным предметам, а, напротив, срастутся с ними.

Чему учатся дети, когда обращаются к машинам как к своим задушевным друзьям? Пятнадцатилетний мальчик отмечает: каждый человек ограничен своим жизненным опытом, но “роботов можно запрограммировать на бесконечное число историй”. Таким образом, по мнению этого мальчика, в качестве задушевных друзей роботы выигрывают по части опыта. И что характерно, они также выигрывают по части надежности. Родители мальчика разведены. Дома он часто видел ссоры. “С людьми, – говорит мальчик, – приходится рисковать. Роботы надежны”. Роботы не подведут в эмоциональном плане, ведь у них вообще нет эмоций.

Искусственный наставник

Если вспомнить о словах студента Марвина Минского, сегодня мы пытаемся создавать не машины, внутри которых хотели бы жить души, а машины, вместе с которыми хотели бы жить мы сами.