Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Как мы видели выше, бессознательная обработка информации в нашем человеческом мозгу представляется связанной с легким, быстрым и автоматическим способом мышления, что психологи называют «системой 1»^{127}

. Например, система 1 может сообщить вашему сознанию, что проведенный ею сложный анализ визуальной информации, полученной от органов чувств, выявил в приближающемся человеке вашего лучшего друга. При этом она никоим образом не сообщает, какие вычисления ею проводились. Если такая связь между системами и сознанием подтвердится, то возникнет соблазн распространить эту терминологию на искусственный интеллект, называя системой 1 все быстрые рутинные задачи, делегированные бессознательным модулям. Трудоемкая, медленная, требующая усилий и глобального контроля со стороны всего искусственного интеллекта — это система 2. У нас, людей, также есть осознанные переживания, связанные с тем, что я называю «системой 0»: никак не обрабатываемое пассивное восприятие происходит вокруг вас, когда вы сидите не двигаясь и даже не думаете, а просто наблюдаете. Системы 0, 1 и 2 кажутся непрерывно усложняющимися, и даже поразительно, что только та, что посередине, представляется бессознательной. Теория интегральной информации объясняет это тем, что пассивная сенсорная информация в системе 0 хранится в решетчатых структурах с очень высокой интеграцией, в то время как система 2 имеет высокий уровень интеграции из-за петель обратной связи, где вся информация, которой вы располагаете сейчас, может повлиять на будущие состояния вашего мозга. С другой стороны, именно предсказание сознания в решетчатых структурах вызвало критику Скотта Ааронсона в эпизодах, о которых шла речь выше. Подводя итог, можно сказать, что если теория, дающая решение довольно трудной проблемы сознания, сможет в один прекрасный день пройти через строй строгих экспериментальных проверок так, что мы начнем серьезно относиться к ее предсказаниям, то тем самым будет значительно сужен круг возможных вариантов решения еще более сложной проблемы — относительно того, что может испытывать в будущем обладающий сознанием искусственный интеллект.

Некоторые аспекты нашего субъективного опыта позволяют проследить весь путь нашей эволюции, например связать наши эмоциональные порывы с требованиями самосохранения (потребность в еде и питье, уклонение от опасности быть убитым) и размножения. Это означает, что, вероятно, возможно создать такой искусственный интеллект, которому не знакомы такие квалиа, как голод, жажда, страх или сексуальное влечение. Как мы видели в предыдущей главе, если очень умный искусственный интеллект запрограммирован так, чтобы он стремился к достижению практически любой достаточно амбициозной цели, для него весьма вероятно и стремление к самосохранению — для того, чтобы иметь возможность этих целей достигать. Если искусственный интеллект существует в сообществе аналогичных систем, у них может отсутствовать присущий человеку сильный страх смерти: делая регулярные резервные копии, максимум, что они могут потерять, это содержимое памяти, накопленное с момента последнего резервного копирования, при условии, что сохраненные копии пойдут в дело. Кроме того, возможность легко копировать информацию и программное обеспечение между различными системами искусственного интеллекта, вероятно, снизит остроту чувства индивидуальности, так свойственного нашему человеческому сознанию: между мной и вами было бы меньше различий, если бы мы могли легко делиться своими воспоминаниями и копировать свои способности, поэтому группа связанных друг с другом интеллектуальных систем может чувствовать себя единым организмом с коллективным разумом.

Будет ли искусственное сознание считать, что обладает свободой воли? Обратите внимание, что, хотя философы потратили тысячелетия на препирательства на тему, есть ли у нас свобода воли, и не приблизились к согласию даже по поводу того, как правильно поставить вопрос^{128}

, я ставлю другой вопрос, на который, полагаю, значительно легче ответить. Позвольте мне попытаться убедить вас, что ответ на него прост: «Да, всякий, кто сознательно принимает решения, субъективно чувствует, что обладает свободой воли, независимо от его биологического или искусственного происхождения». Спектр решений заполняет промежуток между двумя крайностями:

1) Вы знаете точно, почему делаете именно этот выбор.

2) Вы не знаете, почему сделали именно такой выбор — кажется, это был просто случайный каприз.