На краю пропасти. Экзистенциальный риск и будущее человечества

Следовательно, наличие космических колоний может способствовать обеспечению экзистенциальной безопасности (путем устранения некоррелированных рисков), но одних колоний точно недостаточно^[521]

. Стать межпланетным видом – амбициозная цель и, вероятно, необходимый шаг на пути к реализации потенциала человечества. Но нам все-таки необходимо непосредственно заняться проблемой экзистенциального риска и сделать защиту своего долгосрочного потенциала одной из своих приоритетных задач.

Беспрецедентные риски

Человечество никогда не сталкивалось с экзистенциальной катастрофой, и остается надеяться, что столкнуться с ней в будущем ему не придется. Катастрофы таких масштабов беспрецедентны в нашей долгой истории. Поэтому у нас возникают серьезные трудности, когда мы пытаемся изучить, спрогнозировать и предотвратить такие бедствия. Более того, эти трудности никуда не денутся, поскольку экзистенциальные риски заведомо беспрецедентны. Когда у нас появится прецедент, станет слишком поздно, ведь мы уже лишимся будущего. Чтобы сберечь долгосрочный потенциал человечества, мы вынуждены строить планы и воплощать их в мире, никогда не видевшем событий, которых мы надеемся избежать^[522]

. Рассмотрим три связанных с этим трудности и попытаемся понять, как их преодолеть.

Во-первых, нельзя полагаться на свои интуитивные знания и институты, сформировавшиеся для работы с рисками малого и среднего масштабов^[523]. Наше интуитивное чувство страха ни в эволюционном, ни в культурном плане не приспособлено к работе с рисками, грозящими большим, чем гибель отдельно взятых людей, – с рисками катастроф, которые нельзя допускать даже раз в тысячу лет в мире, населенном миллиардами людей. Это относится и к нашему интуитивному представлению о вероятности крайне редких событий и слишком высоких рисков. Эволюция и культурная адаптация помогли нам относительно неплохо усвоить ответы на эти вопросы в повседневной жизни (когда безопасно переходить дорогу, покупать ли детектор дыма), но плохо справляются с работой с рисками, угрожающими сотням людей, не говоря уже о рисках, которые угрожают миллиардам и всему будущему человечества.

С нашими институтами происходит то же самое. Существующая система законов, норм и организаций для работы с риском ориентирована на риски малого и среднего масштабов, с которыми мы сталкивались в прошлых веках. Она плохо справляется с колоссальными рисками, способными разорить страны по всему миру, с серьезными рисками, при наступлении которых не остается ни одного юридического института, чтобы покарать виновных.

Во-вторых, у нас вообще нет права на ошибку. Это лишает нас возможности учиться на своих промахах. Как правило, человечество управляет рисками методом проб и ошибок. Мы увеличиваем вложения или усиливаем регулирование, ориентируясь на причиненный ущерб, и ищем способы предотвращать новые пожары, ходя по пепелищу.

Но в случае с экзистенциальным риском пассивный метод проб и ошибок не оправдывает себя. Нам необходимо будет принимать упреждающие меры: иногда сильно заранее, иногда ценой немалых издержек, иногда даже в моменты, когда еще непонятно, реален ли риск, а если да, то помогут ли эти меры его устранить^[524]. Для этого нужны институты, имеющие доступ к новейшей информации о приближающихся рисках, способные к решительным действиям и готовые к тому, чтобы перейти к ним на практике. При работе со многими рисками многие (а может, и все) страны мира должны будут действовать слаженно. Возможно, принимая те или иные меры, мы будем понимать, что никогда не узнаем, принесут ли они пользу, несмотря на все издержки. В конце концов для этого понадобятся новые институты, где будут работать умные и здравомыслящие люди, располагающие немалым бюджетом и оказывающие реальное влияние на политику.

Это очень сложные обстоятельства для определения программно-нормативных установок – возможно, с ними не справятся даже лучшие из институтов, существующих сегодня. Но сейчас ситуация именно такова, и мы должны отдавать себе в этом отчет. Чтобы соответствовать этим требованиям, необходимо срочно улучшить наши институциональные возможности.