Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Первый закон должен остаться, но с дополнительным уточнением, что защита включает в себя долгосрочное физическое и психическое здоровье. С другой стороны, боевым роботам может быть позволено при определенных обстоятельствах убивать противников, если это происходит под контролем человека. Очевидно, что это представляет собой противоречие с первым законом и открывает тот самый ящик Пандоры в качестве формы узаконенного убийства, но если цель противника – массовое убийство мирных жителей, это изменение, безусловно, заслуживает обсуждения. Расширение этого положения на полицейских роботов, которым разрешено убивать людей в особо опасных ситуациях, возможно, окажется приемлемым, если такие действия будут предметом обязательной судебной проверки. В большинстве стран у сотрудников полиции есть такая функция.

Что касается второго закона, то общество должно договориться о рейтинге человеческих команд. Кроме того, кто будет виноват, когда что-то пойдет не так или когда человек будет ранен или убит? Это человек-оператор или надсмотрщик, хозяин, программист, дизайнер или производитель? Если машины действительно в конечном счете станут сознательными, ответственность может лежать на машине, но до этого ответственность должна лежать на людях. (Огромная благодарность Google и DeepMind за развязывание этических дискуссий в рамках их программы искусственного интеллекта.)

Когда Азимов писал свои законы, он представлял роботов, прежде всего, как реальных существ, в то время как современные робототехники в той же мере занимаются разработкой программного обеспечения. Таким образом, третий закон должен распространяться на поддержание целостности данных. Когда что-то идет совсем не так, как надо, все записи должны быть полностью доступны. Данные имеют свой долг и свои обязанности. Все программы должны быть открыты для общественного контроля, равно как любые другие машины, скрывающиеся за этим кодом. Тем не менее в обозримом будущем ответственность должна будет лежать на людях и только на них.

Возможно, вдохновившись ранними рассказами Азимова, мы должны добавить еще нулевой закон, в котором будет говориться, что машины имеют право на обращение к людям относительно любого закона, если они считают, что следует шире рассмотреть понятие общественного блага.

Прогресс часто определяется в технологических терминах, но мы должны сосредоточиться на более широкой формулировке. Мы надеемся, что это породит дискуссии о природе идеального общества и сместит дискуссию от того, что можно сделать, к тому, что должно быть сделано. Центральное место в этом занимает вопрос – не принижают ли новые идеи человеческое достоинство?

Без сомнения, это звучит смешно. Питер Тиль говорит, что люди больше не верят в будущее, но я подозреваю, что они попросту больше не могут его увидеть – особенно такое будущее, в котором они играют значимую, полезную роль. В настоящее время нет видения долгосрочных перспектив сверх того, что нам предлагают разработчики новых технологий вроде Тиля, так что нам нужно создать будущее с человеческим сердцем.

Самые серьезные проблемы, с которыми мы столкнемся в будущем, лежат в области культуры, а не технологии. В частности, мы будем бороться, чтобы привести в соответствие наши эмоциональные потребности и чувства с технологиями, которые мы не вполне понимаем и которые пытаются принизить нашу ценность как человеческих существ. Отчасти проблемы будут корениться в восприятии, но в большинстве случаев это все, что у нас будет. Иными словами, проблемы будут гнездиться в нашем сознании – но там же будут находиться и решения.

Тиль был прав, говоря о кризисе прогресса. Технология предлагает нам безграничные возможности, но если все возможно, то ничего не имеет никакого значения. Если что-то может быть отброшено без разговоров, то ничего не гарантирует безопасности. Должна существовать фиксированная точка, с которой мы можем смотреть в будущее.

Мы можем использовать технологии, но следует управлять этим процессом и ориентировать их на достижение конкретных целей. Для этого необходимо выбирать только подходящие нам варианты. Эта идея была впервые выдвинута Э. Ф. Шумахером в своей книге «Малое прекрасно» («Small is Beautiful»). Подходящие технологии – это мелкомасштабные, местные, ориентированные на людей, признающие важность человеческой личности и служащие охране окружающей среды.

Когда речь идет о человеческой природе, перемены не слишком заметны, и мы нередко очень легко обвиняем свои инструменты в любых трудностях, возникающих на нашем пути. Человеческая память предназначена не для того, чтобы помочь нам вспомнить прошлое, но для того, чтобы предвидеть будущее, – и хотя некоторые решения наших нынешних проблем будут за технологами, понимание главных ценностей нашей жизни останется за философами и специалистами по этике.