На краю пропасти. Экзистенциальный риск и будущее человечества

Также возможно, что снижение риска будет менее ценно, чем можно ожидать в соответствии с примитивной моделью, хотя это и кажется менее вероятным. Такое может произойти, например, если большая часть риска окажется совершенно непредотвратимой. Это не слишком вероятно, поскольку главным образом риск вызывает человеческая деятельность, а человечество может ее контролировать. То же самое может случиться, если ценность будущих веков будет стремительно снижаться. Но я не вижу причин этого ожидать: исторические данные за долгий период говорят об обратном, и мы видели, что не стоит дисконтировать собственную ценность нашего будущего. Третий путь к такому исходу откроется в том случае, если суммирование ценностей будущего окажется этически необоснованным: например, если придется вычислять средние ценности веков или не принимать в расчет все будущие поколения. Однако, как говорится в Приложении В, такие альтернативные подходы и сами не лишены серьезных проблем. Наконец, истинная ценность может оказаться ниже, чем можно предположить в соответствии с примитивной моделью, если риск сейчас низок, но повысится в будущем и если у нас сейчас нет возможности повлиять на этот будущий риск. На мой взгляд, это самая правдоподобная из причин, по которым ценность снижения риска может оказаться завышенной.

В целом, как я полагаю, примитивный подход с гораздо большей вероятностью занижает, а не завышает важность защиты нашего будущего. Но даже если вы считали, что вероятности этого примерно равны, заметьте, что их эффекты несимметричны. Это объясняется тем, что они выступают в качестве множителей. Допустим, вы полагали, что ценность снижения риска может быть как в десять раз выше, чем в соответствии с примитивной моделью, так и в десять раз ниже. Вычислив среднее этих значений, мы получим, что ценность будет выше не в один, а в 5,05 раза. Следовательно, если только мы в высокой степени не уверены в том, что примитивная модель дает завышенную оценку, нам следует действовать так, словно оценка в соответствии с ней занижена^[671].

Приложение F

Рекомендации по разработке стратегии и проведению исследований

Для удобства поиска я собрал вместе все свои рекомендации по разработке стратегии и проведению исследований в сфере экзистенциального риска.

Астероиды и кометы

• Исследовать возможности для отражения астероидов и комет диаметром более 1 км, возможно ограничившись методами, которые невозможно использовать в военных целях, например теми, что не приводят к точным изменениям траектории.

• Вписать короткопериодические кометы в ту же схему рисков, что и околоземные астероиды.

• Углубить наши знания о рисках, сопряженных с долгопериодическими кометами.

• Усовершенствовать модели сценариев развития “импактной зимы”, особенно для астероидов диаметром 1–10 км. Работать со специалистами по климатическому моделированию и моделированию ядерной зимы, чтобы видеть, что показывают современные модели.

Мегаизвержения

• Найти все места, где в прошлом случались мегаизвержения.

• Уточнить весьма приблизительные оценки частоты таких извержений, особенно для крупнейших из них.

• Усовершенствовать наши модели “вулканической зимы”, чтобы выяснить, какие масштабы извержений могут представлять реальную угрозу для человечества.

• Установить контакт с ведущими исследователями астероидов, чтобы перенять у них опыт моделирования и управления.

Звездные вспышки

• Построить более качественную модель угрозы с учетом заданных распределений параметров, вместо того чтобы полагаться на характерные примеры. Далее провести анализ чувствительности этой модели – есть ли какие-либо вероятные параметры, которые могли бы сделать эту угрозу настолько же серьезной, как угроза столкновения с астероидом?

• Творчески подходить к поиску причин, по которым текущие оценки могут занижать риск в сто и более раз.

Ядерное оружие

• Возобновить действие договора о ликвидации ракет средней и меньшей дальности (договора о РСМД).

• Продлить договор СНВ-III, действие которого истекает в феврале 2021 года^[672].

• Вывести американские МБР из состояния повышенной боевой готовности (официально оно называется “Запуск по предупреждению”).

• Расширить полномочия Международного агентства по атомной энергии (МАГАТЭ) по контролю за тем, как страны выполняют соглашения о безопасности.

• Работать над разрешением ключевых неопределенностей в моделировании ядерной зимы.

• Охарактеризовать сохраняющиеся неопределенности, а затем применить методы Монте-Карло, чтобы продемонстрировать распределение вероятных исходов, сделав особый акцент на наихудших вариантах в соответствии с нашими текущими представлениями.

• Изучить, какие регионы мира наиболее устойчивы к эффектам ядерной зимы и какова вероятность того, что цивилизация там сохранится.

Климат

• Финансировать исследования и разработку инновационных подходов к чистой энергетике.