Рациональность: От ИИ до Зомби

«Для формирования точных убеждений требуется соответствующее количество доказательств» — это очень убедительная истина как в человеческих отношениях, так и в термодинамике. Если бы слепая вера действительно работала как метод исследования, вы могли бы превратить тёплую воду в электричество и кубики льда. Просто создайте Демона Максвелла, который слепо верит в точные значения скоростей молекул.

Двигатели познания не так сильно отличаются от тепловых двигателей, хоть они и манипулируют энтропией более тонким образом, чем сжигание бензина. Например, они схожи тем, что двигатели познания не являются абсолютно эффективными, они должны излучать лишнее тепло, как его излучает двигатель автомобиля или холодильник.

Фраза «холодная рациональность» правдива в таком смысле, о котором голливудские сценаристы даже не могли и подумать (и неверна в том смысле, который они имели ввиду).

Поэтому, если вы не можете сказать мне, какой именно шаг в вашем рассуждении нарушает законы физики, давая вам истинное знание незримого, то не ожидайте, что я поверю в то, что всё сложное умное рассуждение способно их нарушить.

Основы редукционизма

Как разобрать реальность на составные части? И как жить в такой вселенной, где мы всегда жили, но без разочарования из-за того, что сложные вещи состоят из простых вещей.

Эта цепочка продолжает цепочку «Таинственные ответы на таинственные вопросы»

Распутывание вопроса

Элиезер Юдковский

«Если никто не услышит, как в лесу упадёт дерево, будет ли звук?»

Я не отвечал на этот вопрос. Я не выбирал позицию «да» или «нет» и не защищал её. Вместо этого, я разобрался с тем, как человек обрабатывает слова, даже нарисовал схематическую иллюстрацию(english) нейронной сети. В конечном итоге, я надеюсь, не осталось не только вопроса, но даже чувства вопроса.

Множество философов, особенно философов-любителей и философов древнего мира, имеют опасный инстинкт: когда они слышат вопрос, они пытаются ответить на него.

Например: «Имеем ли мы свободу воли?»

Опасный инстинкт философии состоит в том, чтобы выдвинуть аргументы «в пользу» и «против», взвесить их, опубликовать их в престижном философском журнале и, в заключение, заявить: «да, мы должны иметь свободу воли» или «нет, мы не можем иметь свободы воли».

Некоторые философы достаточно мудры, чтобы вспомнить, что большинство философских диспутов в действительности являются спорами о смысле слова или вокруг путаницы, возникшей в результате использования разных смыслов одного слова в разных местах. Такие философы пытаются наиболее точно определить то, что они подразумевают под «свободой воли», и затем возвращаются к вопросу «Имеем ли мы свободу воли? Да или нет?».

Ещё более мудрый философ может заподозрить, что замешательство, вызванное словами «свобода воли» показывает, что понятие ущербно само по себе. И тогда он начинает следовать путём Традиционного Рационалиста: он начинает рассуждать о том, что понятию «свобода воли» присущи самопротиворечивость или бессмысленность, потому что она не имеет никаких проверяемых последствий

. И затем он публикует эти разрушительные замечания в престижном философском журнале.

Но, доказывая, что вы в замешательстве, вы не устраните причину проблемы и не снимете замешательство. Доказательство бессмысленности вопроса поможет не более, чем ответ на него.

Инстинкт философа — найти и занять такую позицию в диспуте, которую проще всего защищать, опубликовать её и пойти дальше. Но «наивный», инстинктивный взгляд — это свойство человеческой психологии. Можно доказывать, что свобода воли невозможна, пока не погаснет Солнце, но это не объяснит того, что происходит в голове человека, который считает, что обладает свободой воли, если при этом свободы воли не существует. А это уже вопрос когнитивистики, и это уже не риторический вопрос!

Люди думают, что они обладают свободой воли — это факт человеческой психологии. Поиски позиции в диспуте, которую проще всего защищать, не изменят и не объяснят этот психологический факт. Философия может привести вас к отказу от концепции, но отказ от концепции — это не то же самое, что и понимание когнитивных алгоритмов, порождающих эту концепцию.

Если мы взглянем на Стандартный Диспут на тему «Если никто не услышит звук падающего в лесу дерева, будет ли звук?», то мы можем поступить в стиле Традиционного Рационалиста, то есть отметить факт, что спорщики не ожидают каких-либо расхождений в наблюдениях, и триумфально объявить, что спор бессмыслен. В данном случае это действительно так, но когнитивистика ставит другой вопрос: почему спорщики вообще сделали эту ошибку, откуда взялось несогласие?