Рациональность: От ИИ до Зомби

Отделение — если область священного не подпадает под обычные правила свидетельств или возможность исследования обычными средствами, тогда она должны быть различной по природе с обычной материей; и тогда мы менее склонны думать о космическом шаттле как о кандидате на священность, поскольку это работа обычных человеческих рук. Китс потерял свое восхищение радугой и низвел ее до «скучного перечисления обычных вещей» за преступление, что ее состав и стурктура известны. Цена этого способа защищать себя от критики — потеря священности всех более-менее обычных вещей.

Личный опыт — об этом я уже говорил.

Такие искажения это причина тому, что мы даже не должны пытаться спасать религию. Нет, даже в форме «духовности». Отбросить общественные институты и фактические ошибки, отказаться от церквей и писаний — и вы окажетесь с…со всей этой чепухой про загадочность, веру, солиптический опыт, личное одиночество и неоднородностью.

Изначальная ложь — только начало проблемы. Дальше у вас есть все плохие привычки мышления, которые эволюционировали для защиты этой лжи. Религия это кубок с ядом, из которого мы должны постараться не испить. Духовность — это тот же кубок, из которого вытащили остатки яда, и в котором остался только растворившийся яд — намного менее летально, но все еще лучше бы не пробовать.

Когда ложь защищается веками, подлинное происхождение болезненных привычек теряется в тумане, под множеством слоев недокументированной болезни; и тогда, думаю, мудрее будет начать с нуля, а не пытаться избирательно отказываться от исходной лжи и сохранять привычки мышления, что защищали ее. Просто признайте, что вы неправы, сдайтесь полностью, прекратите защищать ошибку, хватит пытаться говорить, что вы «чуть-чуть правы», не пытайтесь сохранить лицо, просто скажите «Ой!», отбросьте все это и начните заново.

Эта возможность — подлинно, по-настоящему, без защиты, признать что ты полностью неправ — то, почему религиозный опыт никогда не будет похож на научный. Нет религии, что смогла бы вместить ее без того, чтобы не потерять себя полностью, став просто человечностью…

…с возможностью смотреть на звезды. Правдоподобной без напряжения, без постоянной борьбы по отвлечению внимания от контрсвидетельств. По-настоящему существующей в мире, опытом, соединенным с реальностью, единой с развертывающейся историей. Познаваемой без угроз, предлагающей подлинную пищу для любопытства. Разделенной со всеми теми, кто тоже смотрит на звезды, не имеющей нужды в бегстве в личный опыт. Сделанной из того же материала, что и вы сами и все остальное. Самой святой и прекрасной, священной обыденностью.

Физикализм для продвинутых

Рука или пальцы

Элиезер Юдковский

Вернёмся к нашей изначальной теме: Редукционизму и ошибке проецирования ума. Иногда люди считают, что классными могут быть лишь фундаментальные штуки, и тогда им сложно принять редукционизм на эмоциональном уровне. Но такая позиция лишит нас возможности 

наслаждаться чем-либо сложнее кварка, так что я предпочитаю отбросить её.

Напоминаю, что основной тезис редукционизма состоит в том, что хотя мы и используем многоуровневые модели для упрощения вычислений, физическая реальность состоит лишь из одного уровня.

Сегодня же я бы хотел предложить вам следующую загадку: Когда вы берёте стакан воды, его берёт ваша рука?

Большинство людей, конечно же, наивно ответят: «Да».

Однако недавно учёные совершили невероятное открытие. Оказывается, стакан держит вовсе не рука. На самом деле, его держат ваши пальцы и ладонь.

Да, я знаю, меня это тоже потрясло. Но оказалось, что когда учёные измерили силы, приложенные к стакану каждым из ваших пальцев и ладонью, то они не обнаружили никакой дополнительной силы. Таким образом, сила, прикладываемая вашей рукой, должна быть равна нулю.

Идея здесь в том, что когда вы можете увидеть (а не просто знать), как более высокий уровень редуцируется к более низкому, они не будут казаться вам отдельными местами на вашей карте. Вы сможете увидеть, насколько глупо думать, что пальцы могут быть отдельно от вашей руки. Вы сможете увидеть, насколько глупо спорить о том, берёт ли стакан ваша рука или же ваши пальцы.

Ключевое слово: «увидеть». Важна непосредственная визуализация. Когда вы представляете руку, вы также представляете и пальцы, и ладонь. И наоборот, представив ладонь и пальцы, вы поймёте, что это рука. Таким образом, высокий и низкий уровни вашей карты внутри вашего разума окажутся тесно связаны.

В реальности, конечно же, эти уровни связаны ещё теснее — самым тесным из возможных способов: физической идентичностью. Это можно увидеть. Вы можете увидеть, что слова (1) «рука» или же (2) «пальцы и ладонь» относятся не к различным объектам, а всего лишь к различным точкам зрения.