Бог, человек, животное, машина. Поиски смысла в расколдованном мире

«Мифы о творении можно разделить на два типа, – пишет историк технологии Джордж Дайсон в книге „Собор Тьюринга“. – В одних жизнь зарождается в земной грязи, в других – падает с небес». В истории вычислительной техники, по словам Дайсона, присутствуют оба этих мифа: «…компьютеры возникли из грязи, а код упал с неба». Это дуалистическое мышление, питающее некоторые из самых амбициозных технологических начинаний, наблюдается и в попытках спровоцировать возникновение эмерджентного интеллекта у машин. Совсем как в стародавние времена, когда големов лепили из глины и оживляли при помощи магических формул, современные ученые надеются, что роботы, собранные из материальных физических деталей, вдруг оживут, осененные божественным дыханием – то есть математическими паттернами, которые управляют нашим миром и способны одухотворять сложные системы. Такие нотки мистицизма не дискредитируют саму концепцию эмерджентности – это весьма полезный способ описания сложных систем, таких как климат или пчелиный улей. Однако идея о том, будто сознание может самопроизвольно возникнуть (emerge) внутри машины, кажется попыткой выдать желаемое за действительное – хотя бы потому, что вся сфера цифровых технологий строилась на предпосылке, что сознание не играет никакой роли в мыслительных процессах. Поверить, что самосознание может появиться у технологии, специально разработанной с целью обойтись без сознательного субъекта, столь же трудно, как и поверить, будто наука может «объяснить» сознание, – учитывая, что в основе современной науки лежит отказ от индивидуального, частного опыта в пользу универсального и проверяемого.

На самом деле отвергать эмерджентизм как чистой воды магическое мышление – значит игнорировать существенные расхождения, отличающие его от фольклора. Если заглянуть за мистический фасад, становится ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редукционистских форм материализма, особенно в отношении человеческого разума. Интеллект растений иногда называют «гениальностью без мышления», и, по мнению многих эмерджентистов, мы в этом смысле мало чем от растений отличаемся. Мы не рациональные мыслящие субъекты, а смешение конкурирующих систем, которые не составляют никакого единства и целостности. Мински однажды сравнил устройство человеческого разума с «бюрократическим хаосом», где одно «ведомство» понятия не имеет о действиях другого. Вот как он описывает, например, решение отпить чай из чашки: «ХВАТАТЕЛЬНЫЙ координатор хочет, чтобы вы удерживали чашку в руке. Координатор БАЛАНСА хочет, чтобы вы не пролили чай. Координатор ЖАЖДЫ хочет, чтобы вы выпили чай. ДВИГАТЕЛЬНЫЙ координатор хочет, чтобы вы поднесли чашку к губам». Так же как интеллект пчелиного улья или дорожного движения возникает только на уровне паттерна, организующего пассивные элементы, так и человеческое сознание является всего лишь абстрактными отношениями на пересечении всех этих систем: добравшись до самого низкого уровня интеллекта, вы неизбежно обнаружите механизмы, которые, как выразился Мински, «вообще не умеют думать». В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Историк науки Джессика Рискин утверждает, что эмерджентные теории разума в итоге отрицают само явление, которое призваны объяснить: «Добравшись до этих базовых элементарных механизмов, мы сразу обнаруживаем, что сама идея о разуме как свойстве сознания оказывается бессмысленной».

Даже Брукс с его демиургическими проектами по оживлению роботов называл сознание «дешевым трюком», иллюзией, которая существует только в глазах смотрящего. «Наблюдатель, следящий за системой, – писал он об одном из своих роботов-насекомых, – может с легкостью приписать ей более сложную внутреннюю структуру, чем та, которой она обладает на самом деле. Можно подумать, будто Герберт занимается картографированием местности и заранее строит маршруты, но это не так». Даже самостоятельность, которую иногда демонстрировал Винтик, можно было назвать агентностью или проявлением личной воли только потому, что ее приписывал роботу наблюдатель-человек. Это касается и самих людей: об их сознании можно судить, опираясь исключительно на действия, которые они совершают. В конце концов, ни Брукс, ни Тьюринг не пытались создать машины, обладающие разумом или душой; скорее они стремились показать, что ни разум, ни душа не требуются для того, чтобы машина вела себя «по-человечески».