Илон Маск: Откровенно говоря…

«Мы должны быть очень осторожны, имея дело с искусственным интеллектом. Если бы мне нужно было назвать величайшую экзистенциальную угрозу для человечества, я бы сказал, что это именно он. Мы должны быть очень внимательны с ним. Я все больше склоняюсь к мысли, что должен быть какой-то административный надзор, может быть, на государственном, а может, и на международном уровне, который позаботился бы о том, чтобы мы не наделали глупостей. Работая над искусственным интеллектом, мы вызываем демонов. Все мы знаем истории, в которых парень с пентаграммой и святой водой уверен, что сможет контролировать этих монстров, но в итоге терпит неудачу. (…) ЭАЛ-9000 – это мелочи. Сама технология намного сложнее. Настолько, что ЭАЛ-9000 трусливо дрожал бы перед ней, как маленький щенок»[185].

«Нужно прилагать максимум усилий, чтобы у человечества было хорошее будущее, – для меня это очевидно. Необходимо тратить значительно больше средств на разнообразные формы безопасности, связанные с искусственным интеллектом. Наибольшей пользой от развития последнего станет избавление от рутинной, нудной работы. При решении многих утомительных, скучных, неинтересных задач возможны прорывы в областях, недостижимых сегодня для человеческого интеллекта.

Лучше предупредить (или, по крайней мере, попытаться сделать это) негативные последствия развития искусственного интеллекта, чем ждать, пока они возникнут, и только тогда реагировать. Тем более что потенциально их диапазон огромен, и некоторые из них могут быть очень серьезными. Неизвестно, сможем ли мы возродиться после некоторых из них. Зато ясно, что можно создать сценарии, в которых человеческая цивилизация больше уже не восстановится. Когда риск настолько серьезен, лучше сосредоточиться на профилактике, а не на лечении»[186].

«Риск, как я полагаю, заключается не в том, что искусственный интеллект в кратчайшие сроки разовьет собственную волю. Меня беспокоит скорее то, что кто-то может использовать его неправильным образом. Или даже если он не намерен этого делать, кто-то другой может его перехватить и использовать во зло. Здесь, на мой взгляд, кроется угроза. В связи с этим я считаю, что нам необходимо демократизировать технологию искусственного интеллекта, чтобы она была широкодоступной. Мы создали OpenAI для лучшего распространения этой технологии, ведь так она не будет сосредоточена в руках небольшого количества людей»[187].

«Я думаю, что если мы сможем успешно интегрироваться с искусственным интеллектом, улучшив нейронную связь между корой головного мозга и цифровым расширением себя (которое уже существует, только имеет проблему пропускной способности), мы станем симбионтом искусственного интеллекта. Если это распространится и каждый сможет иметь свой доступ, проблема осуществления контроля, считайте, решена. Не нужно будет беспокоиться о каком-то злом диктаторе искусственного интеллекта, потому что мы все станем коллективным искусственным интеллектом»[188].

«Сила искусственного интеллекта должна быть широко распространена, чтобы не было никого, обладающего сверхинтеллектом в миллион раз мощнее, чем все остальное. Если сила синтетического разума будет распространена до такой степени, что станет консолидирована с волей отдельных людей наподобие личного агента, то любая попытка сделать что-то ужасное нейтрализуется коллективной волей других членов общества. Но если существует один искусственный интеллект, в миллион раз превосходящий все прочее, достичь этого нет шансов»[189]

.

SpaceX готовится к следующему шагу в экспансии на космическом рынке.

«Для рынка спутников мы хотим сделать то, что мы сделали для ракет.