Рациональность: От ИИ до Зомби

2.В статье идет речь о столкновении (автор буквально говорит об ошеломляющем столкновении «лоб в лоб») Люка, одного из активных авторов Less Wrong, с поразившей его работой И. Дж. Гуда. Люк приводит цитату, которую можно свести к следующему утверждению: как только человек изобретет машину, более умную, чем ее создатель, это станет последним изобретением человечества. Люк всерьез задумался над этим утверждением, и попытка опровергнуть идею, высказанную в цитате, и ряд следствий этой идеи перевернула его жизнь (Прим. перев.).

Table of Contents

Ложные убеждения

Замечая замешательство

Загадочные ответы

Простая истина

Предисловие автора

Простая истина

Чрезвычайно удобные оправдания

Политика и рациональность

Против рационализации

Обновляй себя шаг за шагом

Один довод против армии

Нижняя строчка

О чём свидетельствуют отсеянные свидетельства?

Рационализация

Рациональное обоснование

Мотивированная остановка и мотивированное продолжение

Фальшивое оправдание

Это ваша настоящая причина отказа?

О лжи и Черных Лебедях

Эпистемология темной стороны

Против двоемыслия

Серьёзно, я обманул себя

Вера в самообман

Парадокс Мура

Не верь, что самообман удался

Свежий взгляд на вещи

Якорение и корректировка

Прайминг и контаминация

Мы верим всему, что нам говорят?

Кешированные мысли

Стандартный «нестандарт»

Страннее истории

Ошибка обобщения на основе вымышленного свидетельства

Добродетель узости

Генетическая логическая ошибка

Аффективная эвристика

Просто мессии

Сопротивление аффективным смертельным спиралям

Некритичная сверхкритичность

Любая деятельность хочет быть культом

Хранители истины

Хранители Айн Рэнд

Два коана о культах

Первый коан

Второй коан

Эксперимент Аша о конформизме

Умение отпускать

Важно уметь сказать «Упс»

Предложение спятить

Хватит уже надеяться

Как правильно сомневаться

Размышление о любопытстве

Законы рациональности беспристрастны

Оставь путь к отступлению

Кризис веры

Машина в призраке

Простая математика эволюции

Чуждый Бог

Чудо эволюции

Эволюции неразумны (но всё равно работают)

Эволюция к вымиранию

Трагедия группового отбора

Исполнители адаптаций, а не максимизаторы приспособленности

Эволюционная психология

Суперстимулы и крах западной цивилизации

Суть твоя - осколки бога

Ценности терминальные и инструментальные

Как люди понимают слова

Притча о болиголове

Слова как скрытые умозаключения

Экстенсионалы и интенсионалы

Типичность и асимметричное подобие

Замаскированные вопросы

Нейронные категории

Как алгоритм ощущается изнутри

Споры об определениях

Ощути смысл

Аргумент к традиционному пониманию

Пустые ярлыки

Табуируй свои слова

Замени символ на суть

Ошибки сжатия

У классификации есть последствия

Контрабанда характеристик

Аргумент «по определению»

Где проводить границу?

Общая информация и плотность в пространстве вещей

Слова как мысленные кисти

Когда слова ошибочны

Просто реальность

Реальность безобразна?

Вне лаборатории

Второй закон термодинамики и двигатели познания

Основы редукционизма

Распутывание вопроса

Неверные вопросы

Исправление неверного вопроса

Ошибка проецирования ума

Вероятность находится в голове

Цитата — не референт

Качественное замешательство

Думай как реальность

Редукционизм

Объяснение против разобъяснения

Лжередукционизм

Поэты саванны

Наслаждение обыденностью

Обыденная магия

Красота устоявшейся науки

Физикализм для продвинутых

Рука или пальцы

Злые атомы

Тепло или движение

Когда антропоморфизм стал глупым

Априори

Редуктивная отсылка

Зомби! Зомби?

Исключая сверхъестественное

Просто доброта

Раскладывание камней в правильные кучи

Настоящая дилемма заключенного

Количественный гуманизм

Пренебрежение масштабом

Парадокс Аллэ

Чувство морали

Стать сильнее

Бросая вызов сложностям

Цуёку наритаи («Хочу стать сильней!»)

Создание сообщества

Общий уровень здравомыслия

Чувство, что большее возможно

Прочие материалы

Прочие материалы с lesswrong.com

Пример мотивированного продолжения

Атеизм = не-теизм + анти-теизм

Забудьте кое-что, чему вас учили в школе

Непередаваемое превосходство

Пацифизм губит ухоженные сады

Полезная идея истины

Предполагая красоту

Против адвокатуры дьявола

Рациональность — это систематизированное выигрывание

Ученые уже всё это знают?

Учи невыучиваемому

Не выходи из комнаты

Обобщение на одном примере

Презумпция типичности — худший аргумент в мире?

16 видов полезных предсказаний

Научные основы самопомощи. Что мы о них знаем?

Индустрия самопомощи и научная литература

Некоторые научные советы

Методы обучения

Продуктивность

Счастье

Заключение

Список литературы

Как перестать откладывать дела

Введение

Уравнение прокрастинации

Уравнение прокрастинации в действии

Как побороть склонность откладывать дела на потом

Оптимизация оптимизма

Спирали успеха

Заместительная победа

Мысленное сравнение

Предостережение против чрезмерного оптимизма

Увеличение ценности

Поток

Значение

Энергия

Награды

Страсть

Управление импульсивностью

Самоограничение на данный момент

Постановка целей

Заключение

Как быть счастливым

Влияние на счастье

Счастье, личность и навыки

Счастье является субъективным и относительным понятием

Поток и внимательность

Как быть счастливее

Стратегическое мышление не свойственно нам по умолчанию

Живя осознанно

Вас может съесть гру

Да будет свет