Рациональность: От ИИ до Зомби

Почему бы не промоделировать Боинг, используя хромодинамическое представление? Потому что получение ответа из такой модели потребует тьмаллион лет. Кроме того, эта модель не поместится в память всех компьютеров мира вместе взятых (на 2008 год).

Как говорится «Карта — это не территория, но невозможно сложить территорию и положить её в бардачок». Иногда приходится использовать меньшую карту, чтобы она помещалась в меньший бардачок. Но это никак не меняет территорию. Масштаб карты — это не свойство территории, это свойство карты.

Если было бы возможно построить и запустить хромодинамическую модель Боинга, то она бы давала точные предсказания. Более точные, чем аэродинамическая, на самом деле.

От точной модели Боинга, в принципе, не требуется, чтобы она содержала явные описания потока воздуха или высоты. Вовсе не обязательно выделять хотя бы один бит ОЗУ под положение крыльев. Возможно, в принципе, построить такую модель, которая не будет содержать ничего, кроме полей элементарных частиц и фундаментальных сил.

«Что?» — кричит антиредукционист, — «Вы говорите мне, что Боинг в действительности не имеет крыльев? Но я вижу крылья у Боинга!».

И вот тут есть некая едва уловимая тонкость. Объект может иметь разные описания на разных уровнях, но дело не только в этом.

Дело в том, что фраза «имеет разные описания на разных уровнях» произносится в Разговоре о Картах, а не в Разговоре о Территории.

Ни аэроплан, ни законы физики сами по себе не используют разные описания на разных уровнях, как думал тот артиллерист. Это 

мы, для нашего удобства, используем разные упрощённые модели на разных уровнях.

Чисто хромодинамическая модель, содержащая исключительно элементарные частицы и фундаментальные силы, будет содержать и все факты и о потоке воздуха, и о высоте, и о положении крыльев, но она будет содержать их неявно.

Вы, глядя на эту модель и думая о модели, сможете определить, где находятся крылья. Таким образом вы получите явное представление о положении крыльев, вы получите явный вычислительный объект в вашем нейронном ОЗУ. В вашем уме.

Вы действительно можете вывести все типы явных описаний самолёта на различных уровнях и даже явные правила того, как модели разных уровней взаимодействуют друг с другом, чтобы выдавать совместные предсказания…

И алгоритм изнутри чувствует, что самолёт как будто сделан из многих взаимодействующих между собой уровней.

Убеждение чувствуется изнутри таким образом, что вам кажется, что вы смотрите прямо на реальность. Когда же вам кажется, что вы смотрите на убеждение, в действительности вы ощущаете убеждение об убеждении.

Таким образом, когда ваш мозг одновременно верит явным описаниям со многих разных уровней и верит в явные правила перехода с одного уровня на другой, как в часть эффективной комбинированной модели, это ощущается как будто вы видите систему, которая сделана из разных уровней описания и их правил для взаимосвязи.

Но это просто попытка вашего мозга сжать объект, который он не может промоделировать на фундаментальном уровне. Самолёт слишком большой. Даже атом водорода будет слишком большим. Взаимодействия между кварками безумно взаимодействующие. Вы не можете справиться с истиной.

Но физика работает так, что, насколько мы видим, существует только один самый-самый базовый уровень — поля элементарных частиц и фундаментальные силы. Вы не можете справиться с сырой истиной, но реальность справляется с ней без всяких упрощений. (Я хотел бы знать, откуда Реальность взяла свою вычислительную мощь.)

Законы физики не содержат различных дополнительных временных сущностей, которые соответствуют высоте или крыльям самолёта, но мозг инженера содержит различные дополнительные когнитивные сущности, которые соответствуют высоте и крыльям самолёта.

Это, в моём понимании — тезис редукционизма. Редукционизм — не позитивная вера, а скорее неверие в то, что более высокие уровни упрощённой многоуровневой модели находятся снаружи, на территории. Понимая это на внутреннем уровне легко можно распутать вопрос «Как вы можете говорить, что самолёт в действительности не имеет крыльев, если я их вижу?». Достаточно обратить внимание на слова «в действительности» и «вижу.»

Объяснение против разобъяснения

Элиезер Юдковский

Поэма Ламия (

Lamia) Джона Китса определённо заслуживает награды как Наиболее Знаменитая Раздражающая Поэзия:

…От прикосновенья

Холодной философии — виденья

Волшебные не распадутся ль в прах?

Дивились радуге на небесах

Когда-то все, а ныне — что нам в ней,

Разложенной на тысячу частей?

Подрезал разум ангела крыла,

Над тайнами линейка верх взяла,

Не стало гномов в копи заповедной —

И тенью Ламия растаяла бесследной.

пер. Сергей Сухарев