Эта идея должна умереть. Научные теории, которые блокируют прогресс

Роботы-компаньоны

Шерри Теркл

Профессор социологии науки и технологий фонда Эбби Рокфеллер Мозе Массачусетского технологического института. Автор книги Alone Together («Одиноки вместе»).

В начале 1980-х я брала интервью у молодого студента, который учился у Марвина Мински, одного из создателей искусственного интеллекта. По словам студента, его учитель и кумир Мински пытался создать настолько прекрасную машину, чтобы «душа захотела поселиться в ней». Но в последнее время мы настроены скорее не метафизически, а прагматично. Мы изобретаем роботов для заботы о пожилых людях, роботов-нянь, роботов-учителей или секс-роботов. То есть, переиначивая слова Мински, мы пытаемся изобрести не машину с живой душой, а машину, с которой мы сами захотим жить. Мы пытаемся создать машину, которую человек мог бы полюбить.

Мечта об искусственном наперснике или возлюбленном смешивает такие сферы, которые лучше не смешивать. У человека есть тело и жизненный цикл, люди живут семьями и переходят от зависимости к независимости. Это дает им опыт привязанности, потерь, боли, страха за здоровье – и, в конце концов, опыт смерти – особый опыт, недоступный роботам. Я не говорю, что машины не могут настолько «поумнеть» или научиться огромному количеству вещей – они способны выучить многое, больше, чем мы можем предположить. Но на роль друга и объекта любовной привязанности они не подходят.

Однако машина-ассистент для физической помощи человеку, будь то обеспечение безопасности, помощь в уборке, да хоть бы достать вещи с верхних полок, – это прекрасная идея. Машина-компаньон, с которой можно было бы поболтать о человеческих взаимоотношениях, – эта идея уже не настолько хороша. Разговоры об отношениях характерны для нашего конкретного биологического вида. Такие беседы основаны на том, что обе стороны обладают опытом, который может дать лишь человеческое тело – его ограничения и его жизненный цикл.

Мы начинаем об этом забывать.

Мы забываем о заботе друг о друге и о беседе, которая возможна лишь между человеком и человеком. Английское слово conversation («беседа») происходит от глагола to converse, одно из значений которого – «склоняться, тянуться друг к другу». Для общения нам нужно слушать собеседника, ставить себя на его место, читать сигналы его тела, слышать голос, интонацию, понимать его молчание. Мы высказываем то, что нас волнует, и делимся своим опытом, ожидая того же в ответ. Робот, который делится информацией, – это отлично. Но если нужны друг и взаимная эмпатия, то «склоняться» лучше к человеку.

Когда мы думаем, например, о роботе-няне, то забываем, что дети лучше всего развиваются, когда чувствуют заботу, надежную и постоянную. Находясь среди людей, дети узнают, как сочетаются движения и речь, смысл высказываний, голос, интонации, выражения лиц и положения тел. Дети учатся многоуровневым человеческим эмоциям, их неочевидным оттенкам и сочетаниям. Ни один робот не может этому научить.

В наших разговорах о роботах-компаньонах есть паттерн, который я называю «от „лучше, чем ничего“ до „лучше всего“». Принято считать, что робот-компаньон «лучше, чем одиночество». Мол, совсем не так много людей хотят работать сиделкой или нянькой. И затем перечисляются преимущества привлечения к этой работе механических «заменителей». И по ходу рассуждений получается, что от искусственного помощника будто бы можно ожидать даже большего, чем от живого человека. Воспитатель может обидеть ребенка. Медсестра может ошибиться, санитары и сиделки подчас недостаточно умны и не получили хорошего образования.

Увлечение роботами-помощниками говорит о страхах, которые мы испытываем по отношению к другим людям. Нам кажется, что искусственный интеллект – это безопасное средство от одиночества. Мы опасаемся, что в будущем некому будет о нас заботиться. Роботы нас привлекают иллюзией компании без сложностей и ответственности дружбы. Более того, люди полагают, что со временем роботы смогут предложить и иллюзию любви без интимности. Мы помещаем роботов туда, где им не место, не потому, что они там должны быть, но из-за того, что мы разочарованы в себе подобных.

На протяжении длительного времени надежда на искусственный интеллект или на роботов была выражением стойкого технологического оптимизма – веры в то, что даже если все пойдет не так, то наука быстро все исправит и снова сделает все правильно. В сложном мире роботы всегда казались средством быстрого разрешения проблем. Роботы спасают жизни в зоне военных действий, в операционных; они функционируют и в космосе, и в пустыне, и в море – там, где человеческое тело может не справиться. Но мы ищем искусственного компаньона не для каких-то особых подвигов, а для других, менее замысловатых целей.