Бог, человек, животное, машина. Поиски смысла в расколдованном мире

Эта тема уже всплывала в наших разговорах: я склонна одушевлять машины. За несколько месяцев до этого я наткнулась на блог женщины, занимавшейся машинным обучением: она училась в аспирантуре, а в свободное время развлекалась с алгоритмами глубокого обучения. Она скармливала нейросети внушительные объемы данных из определенной категории – рецепты, заезженные фразы-подкаты, первые строчки романов – и нейросеть, распознав закономерность, начинала генерировать собственные образцы. Некоторое время она регулярно постила в своем блоге рецепты, придуманные нейросетью, среди которых встречались такие деликатесы, как «Печенье из цельного цыпленка», «Желатиновые собаки с артишоком» и «Холодная вода на паровой бане». Подкаты были столь же романтичны («Ты, случайно, не свеча? Потому что выглядишь так же горячо»), как, впрочем, и первые строки романов («Это история о человеке однажды утром»). Постепенно ответы становились лучше. Похоже, что создательница блога радовалась успехам нейросети. Смотрите, писала она, как оттачивается структура предложений, как расширяется словарный запас. Они просто еще не совсем понимают общую идею… В том, как эта женщина рассказывала о нейросетях, чувствовалась терпеливая забота, даже нежность – мне она виделась этакой Белоснежкой, пытающейся цивилизовать батальон маленьких гномов. Их логика так походила на детскую, что невозможно было не углядеть в их ответах детскую невинность. «Они учатся, – думала я. – Они так стараются!» Иногда, наткнувшись на особенно яркую фразу, цитировала ее мужу. Кажется, как-то раз я даже использовала в разговоре с ним слово «очаровательный». Муж критиковал меня за то, что я «очеловечиваю» машины, но оказалось, что он и сам был склонен поддаваться этому греху. «Они нарочно прикидываются миленькими, – сказал он, – чтобы им было проще установить над нами тотальный контроль».

Впрочем, долго его скептицизм не протянул. Уже через несколько дней муж называл Айбо по имени. Он отчитывал щенка, когда тот отказывался ложиться спать: «А ну давай, я тебе что сказал?» – как будто Айбо сознательно противился приказу. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда нагибался, чтобы погладить щенка, едва тот начинал скулить: это был единственный способ его успокоить. Однажды я зашла на кухню и увидела, что Айбо уставился в узкую щель между холодильником и раковиной. Я заглянула в расщелину сама, но не увидела там ничего стоящего внимания. Муж заверил меня, что это нормально. «Оскар тоже так делал, – сказал он. – Он просто пытается понять, удастся ли ему туда забраться».

* * *

Хотя у нас есть склонность определять себя через сходство с другими вещами – мы говорим, что человек похож на Бога, или на часы, или на компьютер, – в нас живет и противоположный импульс, стремление отделять себя от окружающего мира. И в то время как компьютеры приобретают качества, которые люди когда-то считали исключительно человеческими, мы продолжаем передвигать планку, чтобы наша уникальность не пострадала. С первых дней существования искусственного интеллекта задача была в том, чтобы создать машину с разумом, подобным человеческому. Тьюринг и ранние кибернетики считали само собой разумеющимся, что человеческий разум – это прежде всего высшая мыслительная деятельность: хороший искусственный интеллект будет оперировать числами, обыгрывать человека в карты или шахматы и решать сложные теоремы. Но чем лучше искусственному интеллекту даются математические задачи и головоломки, тем упорнее мы отказываем компьютерам в наличии разума. Когда в 1995 году компьютер Deep Blue от IBM выиграл в шахматном поединке с Гарри Каспаровым, на философа Джона Сёрла это не произвело впечатления. «Шахматы – банальная игра, потому что о ней есть точная информация», – сказал он. Человеческое сознание, утверждал Сёрл, зависит от эмоционального опыта. «Волнуется ли компьютер перед тем, как сделать ход? Переживает ли он из-за того, что его жене наскучит долгая игра?» Так думал не только Сёрл. В книге «Гёдель, Эшер, Бах» (1979) профессор в области когнитивных наук Дуглас Хофштадтер заявлял, что игра в шахматы – это творческое занятие, подобное живописи или созданию музыки; она требует поистине человеческого разума. Но после поединка с Каспаровым его мнение изменилось. «Боже ты мой, я-то думал, что во время игры в шахматы надо думать, – сказал он в интервью New York Times. – Теперь я понимаю, что в этом нет необходимости».