Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Дэвид всегда подчеркивал, что на самом деле есть две разных тайны, связанных с работой человеческого ума. Первая тайна заключается в том, как мозг перерабатывает информацию. Отсюда проистекает то, что Дэвид называет «легкими» проблемами. Например, как мозг принимает сигналы от органов чувств, воспринимает их и откликается на них? Как он может сообщать о своем внутреннем состоянии средствами языка? Хотя эти вопросы чрезвычайно сложны, они, по нашему определению, относятся не к тайнам сознания, а к тайнам интеллекта: речь о том, как мозг запоминает, вычисляет и учится. Кроме того, мы видели в первой части книги, как специалисты по искусственному интеллекту уже начали успешно двигаться по пути решения этих «легких проблем» в приложении их к машинам — обучая машины играть в го и водить автомобиль, распознавать изображения и понимать высказывания, сделанные с помощью естественного языка.

И есть отдельная тайна: для чего вам личные переживания? И Дэвид называет ее «сложной» проблемой. Когда вы сидите за рулем автомобиля, вы реагируете на мелькающие за окном яркие пятна предметов, на услышанные звуки, испытываете эмоции и ощущаете себя собой. Для чего это все? Разве автомобиль без водителя испытывает что-нибудь подобное? Если вы поедете с таким беспилотным автомобилем наперегонки, вы оба будете получать информацию от своих сенсоров, перерабатывать ее и выдавать управляющие команды. И ваши субъективные переживания во время вождения очевидно логически отделены от самого вождения, они какие-то необязательные. Но если это так, то что их вызывает?

Я подхожу к этой трудной проблеме как физик. С моей точки зрения, обладающая сознанием личность состоит из того, что ею съедено, только съеденное вещество как-то иначе упорядочено. Так почему одни способы упорядочить то же самое вещество приводят к возникновению сознания, а другие нет? Кроме того, физика учит нас: все, что мы едим, — это просто большое количество кварков и электронов, упорядоченных определенным образом. Итак: в каком порядке должны быть расположены частицы, чтобы возникло сознание[56]

?

Что мне нравится в этой физической точке зрения, так это то, что она позволяет придать трудной проблеме, с которой мы, люди, пытаемся совладать на протяжении тысячелетий, значительно более ясную форму, словно фокусируя наш взгляд, и теперь ее легче решить методами науки. Вместо того чтобы начинать с трудной проблемы, — почему определенным образом упорядоченные частицы могут обладать сознанием, — давайте начнем с твердого факта, что некоторые конгломераты упорядоченных частиц ощущают себя сознательными, в то время как прочие не ощущают. Например, вы знаете, что частицы, из которых состоит ваш мозг, в данный момент находятся в осознающей упорядоченности, но не обладают этим качеством, когда вы находитесь в состоянии глубокого сна без сновидений.

Теперь мы можем задать три сложных физических вопроса относительно сознания (см. рис. 8.1). Во-первых, какие особенности упорядочения частиц играют здесь роль? В частности, какие физические особенности отличают обладающие сознанием системы от бессознательных? Если мы можем ответить на этот вопрос, то мы можем сказать, какие интеллектуальные системы окажутся сознательными. В более близкой перспективе умение ответить на этот вопрос поможет врачам скорой помощи определить, кто из не реагирующих на внешние раздражители пациентов на самом деле находится в сознании.

Во-вторых, как физические свойства определяют тип ощущения? В частности, что определяет квалиа, основные строительные блоки сознания, такие как красный цвет розы, звон тарелок, запах стейка, вкус мандарина или боль от укола иголкой[57]?

В-третьих, почему что-то вдруг оказывается сознательным? Другими словами, есть ли какие-то глубинные, не открытые пока объяснения, почему одни сгустки вещества оказываются сознающими, или это необъяснимый факт, просто мир так устроен?

Рис. 8.1

Понимание сознания предполагает целую иерархию проблем. Та, которую Дэвид Чалмерс называет «легкой», может быть сформулирована без упоминания личных переживаний. Очевидный факт, что некоторые, хотя и далеко не все, физические системы обладают сознанием, ставит перед нами три отдельных вопроса. Если у нас есть теория, дающая ответ на вопрос, который здесь обозначен как «довольно трудный», то эта теория должна быть экспериментально проверяема. Если проверка состоялась, то можно пользоваться ею в попытках дать ответ и на вопрос в вершине пирамиды.

Специалист по информатике Скотт Ааронсон, мой бывший коллега по MIT, легкомысленно назвал первый из этих вопросов «довольно трудной проблемой» (pretty hard problem, или PHP), как перед этим поступил Дэвид Чалмерс. Следуя за ними в том же духе, назовем два других вопроса «еще более трудной проблемой» (even harder problem, или ЕНP) и «по-настоящему трудной проблемой» (really hard problem, или RHP), в соответствии с рис. 8.1[58].

Сознание за пределами науки?