На краю пропасти. Экзистенциальный риск и будущее человечества

• США следует вернуться в Парижское соглашение.

• Продолжать исследования возможности возникновения бесконтрольного или влажного парниковых эффектов. Могут ли они оказаться более вероятными, чем считается в настоящее время? Есть ли способы гарантированно их предотвратить?

• Углубить наши знания об обратных связях, сопряженных с вечной мерзлотой и гидратами метана.

• Углубить наши знания об обратных связях, сопряженных с формированием облаков.

• Лучше охарактеризовать неопределенность, связанную с чувствительностью климата: что мы можем и не можем сказать о правом хвосте распределения.

• Углубить наши знания об экстремальном потеплении (например, на 5–20 °C), в том числе занявшись поиском конкретных механизмов, посредством которых оно может реально грозить человечеству вымиранием или глобальным коллапсом цивилизации.

Экологический ущерб

• Углубить наши знания о том, сопряжено ли сегодня истощение какого-либо ресурса с экзистенциальным риском.

• Углубить наши знания о текущей потере биоразнообразия (как региональной, так и глобальной) и провести сравнение сложившейся ситуации с вымираниями прошлого.

• Создать базу данных существующего биологического разнообразия, чтобы сохранить генетический материал тех видов, которые находятся под угрозой исчезновения.

Пандемии искусственного происхождения

• Привести Конвенцию о биологическом оружии в соответствие с Конвенцией о химическом оружии: увеличить ее бюджет с 1,4 млн до 80 млн долларов, соответственно расширить штат обслуживающих ее сотрудников и наделить их правом расследовать вероятные нарушения ее условий.

• Укрепить способность ВОЗ реагировать на зарождающиеся пандемии путем эффективного эпидемиологического надзора, быстрой диагностики болезней и контроля заболеваемости. Для этого необходимо увеличить финансирование и расширить полномочия ВОЗ, а также активизировать исследования и разработки нужных технологий.

• Убедиться в том, что все продукты синтеза ДНК проходят скрининг на наличие опасных патогенов. Если компании по синтезу не смогут сами довести этот показатель до 100 %, потребуется международное регулирование.

• Повысить открытость данных о чрезвычайных происшествиях в лабораториях уровней BSL-3 и BSL-4.

• Разработать стандарты работы с информационными опасностями и внедрить их в существующие механизмы контроля.

• Проводить упражнения по анализу сценариев развития пандемий искусственного происхождения.

Неконтролируемый искусственный интеллект

• Стимулировать международное сотрудничество в сфере безопасности и управления рисками.

• Исследовать способы регулирования продвинутого ИИ.

• Проводить технологический анализ приведения продвинутого искусственного интеллекта в соответствие с человеческими ценностями.

• Проводить технологическое исследование других аспектов безопасности ОИИ, таких как стратегия безопасного сдерживания и возможные ловушки.

Общее

• Изучить варианты создания новых международных институтов для разработки как поступательных, так и революционных мер по снижению экзистенциального риска.

• Исследовать возможности признать намеренные или неосторожные действия, вызывающие риск вымирания, международным преступлением.

• Изучить возможности представлять будущие поколения в национальных и международных демократических институтах.

• Каждая крупная мировая держава должна учредить высокую правительственную должность для регистрации экзистенциальных рисков, возникновение которых реально спрогнозировать на ближайшие 20 лет, и работы с ними.

• Выявить основные факторы экзистенциального риска и факторы безопасности, ориентируясь как на абсолютный размер, так и на затратную эффективность незначительных изменений.

• Направить силы на снижение вероятности военных конфликтов между США, Россией и Китаем.

• Научиться лучше выявлять непредвиденные и зарождающиеся риски.

• Изучить заместители продуктов питания на случай чрезвычайного и длительного снижения способности мира производить продовольствие.

• Разработать более эффективные теоретические и практические инструменты для оценки рисков с чрезвычайно высокими ставками, которые либо беспрецедентны, либо считаются крайне маловероятными.

• Углубить наши знания о том, с какой вероятностью цивилизация может восстановиться после глобального коллапса, что может этому помешать и как повысить наши шансы на это.

• Развивать исследования по вопросу об общей стратегии человечества.

• Углубить наше понимание этики экзистенциального риска и ценности долгосрочного будущего.

Приложение G

Расширение шкалы Кардашёва

В 1964 году советский астроном Николай Кардашёв разработал метод классификации потенциальных продвинутых цивилизаций по физическому масштабу и количеству энергии (на единицу времени), которую они могут потреблять. Он рассмотрел три уровня: планета, Солнечная система и Галактика. На каждом делении шкалы количество энергии в распоряжении у цивилизации возрастает более чем в миллиард раз.