Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Что особенно важно, мы должны начать широкую дискуссию о том, что приемлемо, а что нет в контексте автоматизации, а также о поддержании человеческого достоинства и самоуважения, чтобы они не были раздавлены в спешке ради удобства, доступности или в ходе заботы об определенных узких аспектах жизни. В 1783 году Уильям Питт заявил, что «необходимость – это призыв к нарушению свободы любого человека; это аргумент тиранов, это символ веры рабов». Вместо слова «необходимость» мы могли бы сегодня использовать слово «эффективность».

Нам также нужно склонять общество перейти от эгоистичной позиции «я» к более широкому понятию «мы» и относиться к людям как к ценному активу, а не как к расходному материалу, траты на который следует сократить. Все иное, по справедливому замечанию Джарона Ланье, не что иное, как мошенничество. Такая траектория развития, в свою очередь, потребует пересмотра публичных и частных интересов наряду с прибылью и производительностью и заставит позаботиться о новых мерах социальной и экологической защиты.

Нам необходимо срочно рассмотреть проблему все возрастающего чувства несправедливости, отчуждения и социальной изоляции, вытекающих из гиперкоммуникабельности, особенно с учетом потенциальных экономических дисбалансов, вызванных увеличением влияния цифровых технологий.

Переделываем будущее к лучшему

Можем ли мы внести подобные проблемы в суперкомпьютер, чтобы решить, что делать? Ответ – нет. В настоящее время не существует универсальной машины, которой мы могли бы задать вопрос о смысле жизни. И даже если бы она была, нас вряд ли устроил бы ответ «42»[41]

. Если мы изобретем машины, которые будут обретать суперинтеллект на основе опыта – то есть машины, которые смогут по-настоящему думать, – нет никаких причин полагать, что они будут думать так же, как мы. Их разум может быть на много порядков выше, чем наш собственный, и, возможно, будет понят только другими машинами. Есть также вероятность того, что высокоразвитым машинам станет скучно, они будут впадать в депрессию или паранойю, как Марвин из «Автостопом по Галактике».

Компьютеры полезны для получения ответов на вопросы. Они бесполезны при формулировании вопросов. Таким образом, первое, о чем мы должны спросить себя: «Что такое вопрос?» У меня нет мгновенного ответа, но, думаю, он лежит где-то в болоте неопределенности между мягкостью человеческих сердец и жесткостью цифровых мозгов.

На мой взгляд, нам срочно необходимо видение будущего человечества, повествование, которое даст ответы на вопросы о том, кто мы и чем мы отличаемся от других известных форм интеллекта. В результате технологии в целом и цифровые в частности должны получать широкое признание только в рамках неких последовательно согласованных рамок. При этом следует учитывать не только текущие возможности, но и вероятное развитие в будущем. Особенно это касается искусственного интеллекта, виртуализации робототехники и автономных систем.

Следует также учитывать тот факт, что у людей есть руки и их нужно чем-то занять. Использование рук – это один из способов проявления человеческого мышления. По мере того, как мир становится все более дигитализированным, мы должны все больше думать о применении рук для реализации связи с реальностью.

Хорошая новость заключается в том, что вы читаете это до 2050 года – маловероятно, что вы обеспокоены восстанием роботов. В обозримом будущем люди будут заниматься роботами, хотя в этом и кроется проблема. Это люди разрабатывают и используют цифровые технологии и это люди создают проблемы другим людям. Нам нужно справляться не с технологиями, а с собственными проблемами, особенно учитывая, что мы используем цифровые технологии для того, чтобы все сильнее дистанцироваться друг от друга.

Не оставляйте ответы без вопросов

Можно оспорить довод об экспоненциальном характере развития технологических изменений. Например, нетрудно заметить, что развитие авиакомпаний идет в обратном направлении. Некоторое время скорости самолетов стабильно увеличивались, но вскоре они замерли на определенной отметке. После гибели сверхзвукового пассажирского самолета и введения мер повышенной безопасности скорость перемещения, возможно, даже несколько уменьшилась. Если вы не сидите в первом классе и не владеете собственным самолетом, даже комфорт пассажиров несколько пострадал.

Неясно, снижается ли уровень человеческого интеллекта, но есть все основания полагать, что в то время, как цифровые технологии будут развиваться семимильными шагами, будет продолжать расти и человеческая глупость. Как отмечает Эдвард О. Уилсон, это весьма неудобное сочетание. Я подозреваю, что мы должны либо замедлить развитие технологий, либо начать стремительно развивать себя и свой интеллект.