Власть и прогресс: Наша тысячелетняя борьба за технологии и процветание

Справедливости ради следует отметить, что не все технологические лидеры настроены столь же оптимистично. Миллиардеры Билл Гейтс и Элон Маск выражают беспокойство по поводу неправильного или, возможно, даже злого сверхинтеллекта и последствий бесконтрольного развития ИИ для будущего человечества. Однако оба этих обладателя титула "самый богатый человек в мире" согласны с Хассабисом, Ли, Курцвейлом и многими другими в одном: большинство технологий направлены на благо, и мы можем и должны полагаться на технологии, особенно цифровые, для решения проблем человечества. По словам Хассабиса, "либо нам нужно экспоненциальное улучшение человеческого поведения - меньше эгоизма, меньше краткосрочности, больше сотрудничества, больше щедрости, либо нам нужно экспоненциальное улучшение технологий".

Эти мечтатели не задаются вопросом, всегда ли технологические изменения являются прогрессом. Они считают само собой разумеющимся, что больше технологий — это ответ на наши социальные проблемы. Нам не нужно слишком беспокоиться о миллиардах людей, которые поначалу останутся позади; вскоре они тоже выиграют. Мы должны продолжать идти вперед во имя прогресса. Как сказал соучредитель LinkedIn Рид Хоффман: "Могут ли у нас быть плохие двадцать лет? Безусловно. Но если вы работаете в направлении прогресса, ваше будущее будет лучше, чем ваше настоящее".

Такая вера в благодетельные силы технологии не нова, как мы уже видели в Прологе. Подобно Фрэнсису Бэкону и основополагающей истории об огне, мы склонны считать, что технология позволяет нам переломить ход природы. Вместо того чтобы быть слабой добычей, благодаря огню мы стали самым разрушительным хищником планеты. Многие другие технологии мы рассматриваем через ту же призму - мы побеждаем расстояние с помощью колеса, темноту - с помощью электричества, а болезни - с помощью лекарств.

Вопреки всем этим утверждениям, не стоит полагать, что выбранный путь принесет пользу всем, поскольку бандаж производительности часто бывает слабым и никогда не бывает автоматическим. Сегодня мы наблюдаем не неумолимый прогресс на пути к общему благу, а влиятельное общее видение среди наиболее влиятельных технологических лидеров. Это видение сосредоточено на автоматизации, слежке и массовом сборе данных, что подрывает общее процветание и ослабляет демократию. Неслучайно, оно также усиливает богатство и власть этой узкой элиты за счет большинства обычных людей.

Эта динамика уже породила новую олигархию видения - группу технологических лидеров с похожим прошлым, похожим мировоззрением, похожими страстями и, к сожалению, похожими слепыми пятнами. Это олигархия, потому что это небольшая группа с общим менталитетом, монополизирующая социальную власть и игнорирующая ее разрушительное воздействие на безголосых и бесправных. Эта группа имеет влияние не благодаря танкам и ракетам, а потому что она имеет доступ к коридорам власти и может влиять на общественное мнение.

Олигархия видения так убедительна, потому что она добилась блестящего коммерческого успеха. Она также подкрепляется убедительным рассказом о том изобилии и контроле над природой, которые создадут новые технологии, особенно экспоненциально растущие возможности искусственного интеллекта. Олигархия обладает харизмой, в своей ботанической манере. Самое главное, что эти современные олигархи завораживают влиятельных хранителей мнения: журналистов, других лидеров бизнеса, политиков, академиков и всевозможных интеллектуалов. Олигархи-визионеры всегда за столом и всегда у микрофона, когда высказываются важные аргументы.

Очень важно обуздать эту современную олигархию, и не только потому, что мы находимся на краю пропасти. Сейчас самое время действовать, потому что эти лидеры правы в одном: в нашем распоряжении есть удивительные инструменты, и цифровые технологии могут усилить возможности человечества. Но только если мы будем использовать эти инструменты в интересах людей. А этого не произойдет, пока мы не бросим вызов мировоззрению, которое преобладает среди наших нынешних глобальных технологических боссов. Это мировоззрение основано на особом - и неточном - прочтении истории и того, что она подразумевает в отношении того, как инновации влияют на человечество. Давайте начнем с переоценки этой истории.

 

План на оставшуюся часть книги