Некоторых людей идея искусственного суперинтеллекта притягивает, как яркая свеча мотыльков. Они убеждены, что в будущем неизбежно наступит апокалиптический момент, который они называют сингулярностью, когда нанотехнологии, биотехнологии и искусственный интеллект сольются воедино и граница между человеком и машиной исчезнет. Когда это произойдет, мы сможем переместить наш мозг в набор электронных схем: после этого мы станем заменять физическое тело по мере его износа, а наше сознание будет продолжать непрерывное существование. По сути, мы станем бессмертными. Идея сингулярности с ее обещанием бессмертия представляется мне новой религией – возможно, самой могущественной из всех, что были созданы людьми со времен появления ислама.
Я сам не отношусь к числу новообращенных. Сторонники культа сингулярности оптимистично предполагают, что искусственный суперинтеллект, если и когда таковой появится, станет служить на благо всего человечества. Они представляют себе человечество как сборище бессмертных детей, которые будут играть, есть, веселиться и наслаждаться жизнью. Но мне рисуется иная картина: если момент сингулярности наступит в том обществе, в котором мы живем сегодня, вечную жизнь обретут только богатые люди. Бедные массы еще продолжат существовать какое-то время, потому что бессмертные будут нуждаться в слугах, но, когда технологии продвинутся достаточно далеко, чтобы сделать роботов неотличимыми от людей эмоционально, чувственно и сексуально, бедные смертные исчезнут с лица Земли.
30.
Окружающая среда
На этом я заканчиваю говорить про наши орудия. Но история сплетается из трех компонентов, второй из которых – окружающая среда. Пока мы не растворились в машинах, мы существуем в биологических телах. Как бы ни виртуализировался наш мир, мы остаемся привязаны к материальной вселенной. Мы должны есть. А то, что мы едим, и то, как получаем эту еду, зависит от места нашего обитания. Окружающая среда бескомпромиссно материальна. Вот почему на протяжении всей истории она жесткой рукой формировала человеческую культуру. Наши ранние модели мира отражали природные силы, которым мы противостояли, и природные ресурсы, которые помогали нам выжить. Если выживание зависело от могучей реки, люди развивали речную культуру. Если люди существовали за счет торговли, их культура адаптировалась к особенностям тех территорий, через которые пролегали их торговые пути. Если наша окружающая среда кардинально менялась, мы не могли оставаться прежними: менялся наш коллективный образ жизни, менялась наша коллективная идентичность, вся наша модель мира менялась настолько, чтобы позволить нам перегруппироваться в новое связное социальное созвездие, способное выжить в новой среде.
Но с появление машины и последовавшим за этим стремительным развитием технологий мы создали себе новую окружающую среду. Ею стали наши орудия, или, точнее говоря, мы сами, потому что наши орудия – это не то,
Давайте для примера рассмотрим массовую миграцию из сельской местности в города, запущенную процессом индустриализации. В 1800 г. большинство людей жили в маленьких городках, деревнях, на фермах или вообще вели кочевой образ жизни. Всего около 3 процентов населения мира жило в больших городах. К 1960 г. эта цифра увеличилась до 34 процентов. Сегодня она превысила 54 процента и продолжает расти. Если эта тенденция сохранится, однажды мы станем чисто городским видом наподобие голубей, крыс или тараканов. Я не пытаюсь оскорбить людей; я люблю людей – я сам один из них. Я просто констатирую факт.
В 1800 г. большинство людей дышали воздухом, содержавшим в основном естественные примеси: пыльцу растений, запахи животных, переносимую ветром пыль. Они ходили по земле, носили одежду из растительного или животного сырья, ели пищу, которую выращивали сами на своих полях. Животные были неотъемлемой частью человеческой жизни. Люди сталкивались с ними каждый день: использовали их для работы, ездили на них, перевозили с их помощью грузы, защищали от них свои поля, а также выращивали тех из них, кого собирались убить и съесть.