Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Эта мысль пугала меня, но в то же время укрепляла в стремлении следовать своему новогоднему обету. Я чувствовал, что в нашей команде не хватает еще одного члена, который мог бы возглавить компанию волонтеров-идеалистов. Логичным образом выбор пал на Викторию Краковну, блестящую магистрантку из Гарварда, только что получившую серебряную медаль на Международной олимпиаде по математике и основавшую Цитадель, которая объединила дюжину юных идеалистов, мечтающих играть более важную роль не только в своей собственной жизни, но и в жизни всего мира. Мы пригласили ее к себе пять дней спустя и рассказали о наших планах. И прежде, чем наши суши пришли к финишу, FLI был рожден.

Пуэрто-риканское приключение

Рождение института было ознаменовано началом удивительного приключения, которое продолжается до сих пор. Как уже рассказывалось в главе 1, мы стали регулярно собирать у себя дома по несколько десятков идеалистически настроенных студентов, профессоров и других мыслящих людей из числа наших соседей. Лучшие идеи становились проектами — первым среди них была та самом колонка об искусственном интеллекте, написанная вместе со Стивеном Хокингом, Стюартом Расселом и Фрэнком Вильчеком, о которой я рассказал в главе 1 и которая помогла разжечь публичные дебаты. Параллельно с первыми шагами, необходимыми при создании новой организации (регистрация, найм консультантов и запуск веб-сайта), мы провели веселую презентацию, посвященную рождению института, в переполненной аудитории MIT, в ходе которой Алан Алда побеседовал о технологиях будущего с ведущими экспертами.

Рис. 9.2

Яан Таллин, Энтони Агирре, ваш покорный слуга, Мейя Чита-Тегмар и Виктория Краковна отмечают создание FLI 23 мая 2014 года.

Всю остальную часть года мы посвятили организации конференции в Пуэрто-Рико, которая, как говорилось в главе 1, ставила своей целью привлечение ведущих мировых экспертов в области искусственного интеллекта к дискуссии о том, как обеспечить его дружественность. Мы стремились главным образом к тому, чтобы в разговорах о безопасности центр тяжести был перенесен с предупреждений об угрозах на привлечение к работе: надо было прекращать пререкаться о том, по какому поводу следует больше всего беспокоиться, и искать области общего согласия, дающие возможности объединять усилия в конкретных исследовательских проектах, в которых шанс положительного результата был бы максимален. Для начала мы собирали наиболее перспективные идеи в исследованиях безопасности искусственного интеллекта по всему миру и просили наше сообщество присылать нам свои отклики на те из них, которые мы включали в наш растущий список. С помощью Стюарта Рассела и группы молодых трудолюбивых волонтеров, среди которых выделились Дэниел Дьюи, Янош Крамар и Ричард Маллах, мы определили среди них исследовательские приоритеты, собрав их в отдельный документ, который вынесли на обсуждение в ходе пленарного заседание конференции^{132}. Достигнув общего согласия относительно наиболее ценных, достойных проведения исследований, мы надеялись поощрить людей к тому, чтобы действительно провести такие исследования. Особенно желательным было бы для нас, если бы нам удалось убедить кого-нибудь поддерживать такие исследования финансово, так как пока у нас не было фактически никакой поддержки со стороны правительственных финансовых учреждений.

Появился Илон Маск. 2 августа наши радары засекли его знаменитый твит «Стоит почитать Бострёма о сверхразуме. Нам надо быть предельно острожными в отношении искусственного интеллекта. Потенциально эта штука опаснее бомбы». Я связался с ним, чтобы рассказать о наших усилиях, а через несколько недель мне довелось поговорить с ним по телефону еще раз. Хотя я очень нервничал и его звездность меня подавляла, результат оказался потрясающим: он согласился войти в научный совет FLI, принять участие в нашей конференции и даже, может быть, профинансировать первую исследовательскую программу, посвященную проблемам безопасности искусственного интеллекта, запуск которой планировалось анонсировать на пуэрто-риканской конференции. Это наэлектризовало всех в институте, мы удвоили наши усилия, чтобы провести достойную конференцию, выявить на ней актуальные исследовательские направления и выстроить поддерживающее их сообщество.