Живым голосом. Зачем в цифровую эру говорить и слушать

По словам создателей программы, они разработали ее, потому что беседы с психотерапевтами – вещь прекрасная, но слишком уж дорогая, чтобы быть доступной всем нуждающимся. Но в каком смысле эта система предоставляет возможность беседы? Один краудворкер посылает быстрый “эмпатический” ответ. Другой сотрудник проверяет, не искажает ли молодой человек реальность в своем описании проблемы, а потом может попросить того переформулировать свой вопрос. Или заново оценить ситуацию. Эти ответы тоже короткие – не больше четырех предложений. То есть в системе есть люди, но разговаривать с ними вы не можете. Каждому сотруднику попросту дается отдельная деталь головоломки, которой он должен заняться. И действительно, создатели программы надеются, что когда-нибудь весь процесс – уже отлично налаженная машина – будет полностью автоматизирован, и к помощи людей можно будет не прибегать даже по отдельным вопросам.

Автоматизированный психотерапевт, разговоры Тары с Siri, а также психиатр, ожидающий, когда “более разумная” версия

Siri придет ему на смену, – эти эпизоды многое говорят о нынешней ситуации в нашей культуре. Во всех этих случаях отсутствует понимание того, что в психотерапии беседа лечит, благодаря отношениям с терапевтом. У терапевта и пациента есть общее – то, что оба они люди. Все мы когда-то были детьми, маленькими и зависимыми. Все мы вырастаем, и нам приходится принимать решения насчет близости, генеративности, работы и смысла жизни. Мы переживаем утраты. Мы думаем о том, что смертны. Мы задаемся вопросом, какое наследие хотим оставить следующему поколению. Когда у нас возникают проблемы с этими вещами – а такого рода проблемы являются естественной частью жизни любого человека, – мы знаем, как обсудить их друг с другом. Но по мере того как усиливается наше стремление говорить об этом с машинами, мы готовимся к тому, что появятся искусственные психотерапевты, а дети будут делиться своими бедами с iPhone[324]

.

Когда я говорю о своих опасениях в связи с ростом популярности подобных бесед, в ответ я нередко слышу: “Если люди утверждают, что будут с радостью говорить с роботом; если им нужен друг, которого они никогда не разочаруют; если они не хотят чувствовать неловкость или уязвимость из-за того, что рассказывают свою историю человеку, – почему это вас беспокоит?” Но почему бы не поставить этот вопрос иначе: “А почему это не беспокоит всех нас?” Почему всех нас не беспокоит, что, когда мы стремимся к таким беседам, мы, в сущности, гонимся за фантазией? Почему нам не приходит в голову, что мы заслуживаем большего? И, действительно, разве мы не думаем, что заслуживаем большего?

Дело отчасти в том, что мы убеждаем себя: нам не нужно больше, мы довольны тем, что нам могут дать машины. А потом жизнь, где мы никогда не боимся осуждения, или неловкости, или уязвимости, уже кажется нам не такой уж плохой. Возможно, беседа с машиной дает нам определенный прогресс, и со временем мы освоим лучший способ существовать в этом мире? Может быть, эти “беседы” с машинами не просто лучше, чем что-то, а лучше, чем вообще все?

На эту работу не найти людей

В передовице одного из номеров журнала Wired, озаглавленной “Лучше, чем люди”, с воодушевлением писали и о неизбежности, и о преимуществах того, что роботы со временем заменят людей во всех сферах жизни. Статья начиналась со следующего утверждения: каждый раз, когда роботы берут на себя какую-либо человеческую функцию, следующий вид деятельности, к которому приступают люди, оказывается в большей степени человеческим. Статью написал самопровозглашенный техно-утопист Кевин Келли, но его мысль перекликается с тем, что я десятилетиями слышала от других людей, обсуждавших эту тему. Это утверждение делится на две части. Во-первых, роботы делают нас человечнее, расширяя наши возможности в плане отношений, ведь теперь для нас возможны отношения с ними

как с новым “видом” существ.

Во-вторых, о какой бы человеческой деятельности ни шла речь, если ее может выполнять робот, значит, это действие уже по определению не является специфически человеческим. Со временем в этот список вошли такие занятия как беседа, товарищество и уход[325]. Теперь мы заново определяем, какую деятельность можно считать человеческой, пользуясь следующим критерием: эту работу нельзя выполнить посредством технологий. Но, следуя формулировке Алана Тьюринга, беседа с компьютером – это “игра в имитацию”. Мы провозглашаем компьютеры умными, если они могут обмануть нас, убедив в том, что они люди. Но ведь это не значит, что они и вправду люди.