Рациональность: От ИИ до Зомби

Абсолют остаётся одной из опаснейших жизненных форм на планете, даже если его лишить оружия и брони и запереть в клетке. Можно сломать меч, можно отрубить конечность, но Абсолютную Силу невозможно отобрать, не убив её носителя.

Возможно из-за того, что связь Абсолютов со своей Силой очень сильна, Абсолюты относятся к тем, кто утратил Абсолютную Силу без надежды на восстановление, как к «мёртвым, пусть и дышащим». Абсолюты утверждают, что именно Абсолютная Сила делает существо самим собой, что это не просто средство. Абсолюты даже настаивают на том, что те, кто не обладает Абсолютной Силой, не в состоянии по-настоящему её осмыслить, и, следовательно, не могут понять, почему она настолько необходима – подозрительно удобный аргумент, кстати.

Власть Абсолютов неоспорима, и другие формы жизни для них не более чем пешки.

Красота устоявшейся науки

Элиезер Юдковский

Фактам не нужно быть(english) необъяснимыми, чтобы быть красивыми; истина не становится менее достойна изучения(english) если кто-то другой ее уже знает; убеждения не становятся менее стоящими(english), если их разделяют другие…

…к тому же, если тебя волнуют только спорные научные вопросы, твоя голова в конце-концов окажется забита мусором.

СМИ считают, что только самые сенсационные научные открытия достойны репортажей. Как часто ты видишь заголовки наподобие «Общая теория относительности всё ещё управляет орбитами планет» или «Теория Флогистона остаётся ложной»? То есть, как только сенсационное открытие становится устоявшейся наукой, оно уже перестаёт быть горячей новостью. А «достойная репортажа» наука часто основана на мельчайшем количестве доказательств и в половине случаев ложна – если бы она не была спорой и не находилась на краю научного знания – она бы не была горячей новостью.

Научные споры - это проблемы настолько сложные, что даже люди, потратившие годы на изучение конкретно этой области, легко могут запутаться. Это и является причиной горячих обсуждений, которые привлекают всё внимание СМИ.

Что ещё хуже, если ты не являешься учёным этой области и не участвуешь в игре, эти споры даже не приносят тебе удовольствия.

Ну, конечно, ты можешь повеселиться, выбрав сторону в споре. Но то же самое ты можешь сделать и на футбольном матче(english). Это не то, в чём заключается удовольствие от науки.

Читая хорошо написанный учебник, ты получишь: Аккуратно сформулированные объяснения для начинающих учеников, шаг за шагом выведенную математику (где она используется), большое количество экспериментов процитированных в качестве наглядного материала (где они применяются), тестовые задания на которых ты можешь продемонстрировать только что полученные знания, а ещё достаточно хорошую гарантию того, что то, что ты учишь - на самом деле верно.

Читая пресс релизы, ты обычно получаешь: ложные объяснения, которые не дают тебе ничего 

кроме заблуждения об обсуждаемом результате, который к тому же вероятно никто ещё и не сможет повторить.

Современная наука построена на открытиях, построенных на открытиях, построенных на открытиях, и так далее, вплоть до людей вроде Архимеда, которые открыли факты, наподобие причины плавания кораблей. Вплоть до открытий, которые ты сможешь понять, даже ничего не зная о других открытиях. Самое лучшее место, с которого стоит начинать путешествие - это начало.

Не надо стесняться читать научные книги для начинающих. Если ты хочешь притвориться утончённым знатоком, пойди и почитай детектив. Если ты просто хочешь получить удовольствие - помни, что простота находится в самом центре научной красоты.

Думать, что ты можешь сразу же отправиться на границу существующих знаний, когда ты не знаком с устоявшейся наукой - это примерно как…

…как пытаться взобраться по верхней половине Эвереста (а это единственная его часть, которая тебе интересна) встав у подножия горы, приседая, и подпрыгивая очень старательно (чтобы пропустить все неинтересные части)

Я, на самом деле, не пытаюсь сказать, что на научные разногласия вовсе не надо обращать внимания. Если 40% онкологов считают, что белые носки вызывают рак, а другие 60% яростно с ними спорят - это важный факт и о нём стоит знать.

Просто не надо жить, думая, что наука должна быть спорной (controversial) для того, чтобы быть интересной.

Или, более того, что наука должна быть современной, для того, чтобы быть интересной. Стабильная подпитка научными новостями тебе вредит: ты - то, что ты ешь. И если ты потребляешь только новостные доклады о ненадёжных ситуациях, без добротных учебников время от времени, то мало того, что ты ничего особенно знать не будешь, тебе ещё и будет с каждым днём всё сложнее и сложнее что-нибудь настоящее узнать.

Часть подцепочки Удовольствие во «всего лишь» реальном, цепочки Редукционизм.

Священная обыденность

Элиезер Юдковский