Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Есть две разные причины, которые способствовали росту моего оптимизма на протяжении последних двух лет. Во-первых, я был свидетелем тому, как сообщество специалистов по искусственному интеллекту складывалось самым конструктивным образом и не боялось браться за решение будущих проблем, нередко привлекая для этого думающих людей из смежных исследовательских областей. После нашей конференции в Асиломаре Илон Маск говорил мне, что приятно удивлен тем, как тема безопасности с обочины исследований искусственного интеллекта переместилась в самый центр этой исследовательской области всего лишь за несколько лет, и это удивляет и меня самого. Сейчас она включает в себя не только краткосрочные задачи из главы 3, которые стало не стыдно обсуждать, но и вопросы, связанные со сверхразумом и экзистенциальными рисками, как мы видим по Асиломарским принципам. Эти принципы никоим образом не могли быть одобрены на конференции в Пуэрто-Рико двумя годами раньше, где самым страшным словом, просочившимся в итоговое открытое письмо, было слово «ловушки».

Мне нравится наблюдать за людьми, и в какой-то момент, в последнее утро асиломарской конференции, я стоял в боковом проходе аудитории и наблюдал за дискуссией о правовых аспектах искусственного интеллекта. Вдруг, неожиданно для меня самого, в моей душе разлилось что-то теплое и мягкое, я ощутил себя внезапно взволнованным. Это было так непохоже на испытываемое мной в Пуэрто-Рико! Тогда, я помню, я смотрел на AI-сообщество со смесью страха и уважения — нет, не как на команду противника, но как на группу моих коллег, которых мне предстоит в чем-то переубедить. А теперь мне было совершенно очевидно, что мы — одна команда. И хотя, читая эту книгу, вы, наверное, уже поняли, что у меня нет готовых ответов на вопросы о том, как с помощью искусственного интеллекта создать нам всем великое будущее, я рад ощущать себя частью растущего сообщества, внутри которого эти ответы ищут сообща (рис. 9.4).

Вторая причина, по которой растет мой оптимизм, — в расширяющемся опыте нашего FLI. Слезы брызнули у меня из глаз в Лондоне от чувства неизбежности: наступает тревожное будущее, но мы ничего с этим поделать не можем. Прошло три года, и это чувство фатальной предопределенности рассеялось. Даже если небольшая компания разномастных волонтеров смогла развернуть в правильную сторону то, что называли самой важной темой нашего времени, подумайте только, что мы сможем сделать, взявшись все вместе!

Эрик Бриньоулфссон в своем асиломарском выступлении говорил о двух типах оптимизма. Первый — безусловный. Он включает в себя, например, положительную уверенность, что и завтра солнце тоже взойдет. Но кроме него, есть и такой, который он называет разумным оптимизмом — это уверенность, что хорошие вещи будут случаться, если ты хорошо все спланируешь и хорошо ради них потрудишься. Это тот самый тип оптимизма, который я испытываю в отношении будущего жизни.

Рис. 9.4

Растущее исследовательское сообщество занято совместным поиском ответов в Асиломаре.

Так что вы можете сделать, чтобы изменить будущее жизни к лучшему в момент вступления в эпоху искусственного интеллекта? По причинам, которые я сейчас объясню, удачный первый шаг поможет вам стать разумным оптимистом, если вы еще им не стали. Чтобы быть успешным разумным оптимистом, очень важно развивать позитивное видение будущего. Когда ко мне в офис приходят студенты MIT и спрашивают моих советов, какую карьеру выбрать, я обычно начинаю расспрашивать их о том, какими они видят себя через десять лет. Если студентка отвечает мне: «Наверное, я буду уже в раковом корпусе или на кладбище после встречи с автобусом», — я не могу сказать ей ничего хорошего. Ожидать от будущего плохого — это бесперспективный подход к планированию своей карьеры. Посвящать 100 % своих усилий только тому, чтобы избегать болезней и несчастных случаев, — это чудесный рецепт для ипохондрии и паранойи, но никак не для счастья! Я бы посоветовал ей, напротив, отнестись к своим целям с энтузиазмом, и тогда мы сможем обсудить стратегии, которые приведут к ним и помогут избежать ловушек и ухабов.