Mass Effect. Восхождение к звездам. История создания космооперы BioWare

Чтобы проиллюстрировать различные этапы эволюции искусственного интеллекта, рассмотрим случай СУЗИ. Когда она была лишь виртуальным интеллектом на Луне, мы бы назвали ее ANI (Artificial Narrow Intelligence) – «слабым» или «узким искусственным интеллектом». Эти ИИ, с которыми мы сталкиваемся ежедневно (в наших компьютерах, консолях и телефонах), специализируются в определенной области и далеки от конкуренции с человеческим мозгом. Конечно, они могут производить впечатляющие вычисления за доли секунды, но сфера их деятельности остается ограниченной. При этом высокоразвитый ИИ для распознавания лиц не в состоянии понять

, что он видит, другими словами – что же такое человек. Компьютер, способный обыграть чемпиона мира по шахматам, неспособен ответить на простой вопрос, например, какая сегодня погода. Короче говоря, ИИ все более и более совершенствуются, но остаются ограниченными. Следующий уровень, которого мы еще не достигли, но он должен появиться в ближайшем будущем, – это AGI (Artificial General Intelligence), «общий искусственный интеллект». Это ИИ, которые по своим возможностям по меньшей мере равны человеческому мозгу. Можно считать, что СУЗИ находится более-менее на этом уровне, начиная с Mass Effect 2 (конечно, с мозговыми способностями суперкомпьютера). Однако СУЗИ остается симпатичным гиноидом, который больше заинтересован в изучении человеческого поведения, чем в эволюции любой ценой. Кажется, что она довольна своим состоянием и не стремится улучшать собственную программную деятельность, чтобы достичь более высокого уровня. И все же это может произойти, когда будет создан настоящий AGI. Поэтому мы возвращаемся к вопросу о сингулярности и суперинтеллекте, чтобы коснуться последней темы, значимой для Mass Effect и, возможно, для будущего человечества.

И сотворил человек Бога

По мнению специалистов, создание AGI неизбежно приведет к появлению ASI (Artificial Superintelligence) – «искусственного суперинтеллекта», и речь идет не о «если», а о «когда». AGI можно рассматривать как ступеньку, стартовую площадку, словом, этап, который напрямую приведет к суперинтеллекту и, следовательно, к сингулярности. Что же тогда будет? Никто не может этого предсказать, даже Рэй Курцвейл – изобретатель и гениальный футуролог, специализирующийся на искусственном интеллекте. Он оптимистичен в своих прогнозах и предсказывает создание ИИ с возможностями, равными человеческому мозгу, примерно к 2030 году. Многие ученые оспаривают его оценки, но у Курцвейла долгая история верных предсказаний, и его считают одним из величайших гениев современности[158]. Тем не менее он признает, что параметры суперинтеллекта окажутся настолько далекими от того, что люди способны себе вообразить, и попытки точного определения значимости этого события для человечества просто тщетны. Как и Стивен Хокинг, он согласен, что это может представлять беспрецедентную опасность, но также кроет в себе невероятные возможности для эволюции человеческого вида. Именно к этому стремятся такие компании, как компания Илона Маска: разработать ИИ, убедившись, что это не приведет человечество к гибели. Для Маска работа в этой нерегулируемой сфере равносильна «вызову демона» (в точности то, что бедный доктор Мигель говорил на Иден Прайм). Когда появится суперинтеллект, это неизбежно потрясет мир. В сочетании с биотехнологиями и нанотехнологиями это может фактически означать конец болезней, бедности, разрушения окружающей среды… Только невозможно даже представить, как этот интеллект будет себя вести и можно ли будет с ним общаться. Это все равно что просить человека снизойти до уровня муравья, чтобы поговорить с ним. Нет никакой уверенности в том, что можно будет понять его намерения или даже идеи, разрыв будет просто астрономическим. Некоторые сравнивают появление суперинтеллекта с появлением бога: бесконечно превосходящей сущности, способной обеспечить жизнь или смерть всему человечеству.

Mass Effect 2 изображает худший катастрофический сценарий в своем DLC «Повелитель». Новая форма ИИ, гибрид человека и гета, пытается сбежать из научного комплекса и взять под контроль комплекс связи, чтобы перенести свое сознание на находящуюся на орбите планеты «Нормандию» и оттуда мгновенно распространиться по всей галактике через экстранет. Шепард(у) едва удается его остановить, но если бы он достиг своей цели, это могло означать почти немедленный конец всех великих цивилизаций. Такой риск крупномасштабного вымирания – это происшествие, которое отдает должное воле главных врагов игры, Жнецов.