Mass Effect. Восхождение к звездам. История создания космооперы BioWare

Термины, которыми пользуется Рабле в этом отрывке из «Гаргантюа и Пантагрюэля», важны для интересующей нас проблематики: «Знание, если не иметь совести, способно лишь погубить душу». Есть много примеров, подтверждающих это утверждение, поскольку люди неоднократно использовали науку для разработки изобретений, вредных для их ближних. Во вселенной Mass Effect существует большое научное табу: Советом запрещено пытаться создать настоящий искусственный интеллект (а не простой виртуальный интеллект, который является только интеллектуальным интерфейсом, но без сознания). Создание гетов кварианцами служит пугалом для всех, кто желал бы ступить на этот путь. Мы находим подобные распоряжения в нескольких классических произведениях научной фантастики, таких как «Дюна», где разработка вычислительной техники была запрещена после войны с мыслящими машинами. Это привело к появлению такой заповеди: «Да не построишь машины, наделенной подобием разума людского».

Таким образом, ИИ считается одной из величайших опасностей, которую органики могут вообразить. Однако нам необходимо определить, по какой именно причине. Простой страх создать роботов-убийц? Давайте сначала попробуем понять, почему мы проводим эти исследования в реальном мире: что же побуждает человечество развивать ИИ?

Как и у всех великих научных достижений, основная цель – улучшить условия жизни человека, ответив на вопросы, на которые нормальный мозг ответа дать не может (по крайней мере, не с такой скоростью), или облегчая повседневные задачи. Искусственный интеллект уже появляется в устройствах, которые мы используем каждый день, даже если на уровне программирования они оказываются ближе к виртуальному интеллекту – подобному Авине в Mass Effect, которая отвечает на вопросы игрока, при этом не будучи сознательной. Более продвинутый ИИ может быть невероятно эффективным при поиске лечения некоторых заболеваний. Если в Mass Effect 3 геты заключат мир с кварианцами, то могут помочь им быстрее восстановить нормальную иммунную систему. ИИ не страдает от ограничений органического мозга и поэтому может находить решения сложных проблем намного быстрее. Тем не менее цитата из Рабле напоминает о себе. Разработка ИИ без оценки ее результатов может иметь катастрофические последствия даже при самых благих намерениях (Пьер и Мария Кюри, а также Эйнштейн в течение некоторого времени не предполагали, что их открытия и теории приведут к созданию орудия апокалипсиса – ядерной бомбы). Именно к такой осмотрительности взывают многие исследователи. В первую очередь можно отметить впечатляющую скорость развития этого сектора: на момент выхода первой Mass Effect проблемы, связанные с ИИ, не были такими конкретными, однако технологии развивались с невероятной скоростью. Это, в частности, выражает закон Мура (названный в честь соучредителя Intel), который в 1965 году говорил, что мощность компьютеров будет расти в геометрической прогрессии. С начала 2010-х годов все больше и больше представителей научного мира выражали свою обеспокоенность по поводу искусственного интеллекта – от ученого Стивена Хокинга до Билла Гейтса, включая предпринимателя Илона Маска. Последний взял дело в свои руки и вместе с другими состоятельными спонсорами профинансировал некоммерческую компанию OpenAI. Ее цель состоит в том, чтобы быть в первых рядах разработки ИИ, внедряя при этом процессы, которые принесут человечеству только пользу[153]

. Вне всякого сомнения, многие произведения научной фантастики помогают представить будущее, контролируемое машинами, интересы которых будут не совпадать с интересами людей: никто не хочет пережить сценарий «Терминатора», спровоцированный искусственным суперинтеллектом «Скайнет». Впрочем, что такое суперинтеллект? Это разграничение важно, потому что в таких произведениях, как Mass Effect, термин «искусственный интеллект» используется для удобства. Однако на самом деле то, что им обозначают, представляет собой нечто иное[154].

Сингулярность