Рациональность: От ИИ до Зомби

Пастух строит систему учёта овец, которая работает, если добавлять камень в корзину каждый раз, когда овца покидает амбар, и изымать - когда овца возвращается. Если ты, ученик, не понимаешь работу этой системы, если для тебя это магия, которая непонятно почему работает, то ты не поймёшь, что делать, если случайно бросишь лишний камень в корзину. Если ты не можешь что-то создать сам, ты не сможешь это и восстановить, если ситуация этого потребует. Ты не сможешь вернуться к истокам, подправить параметры и заново получить результат, если у тебя нет истоков. Предположим, тебе известен факт «два плюс четыре равно шести».Один из элементов изменяется на «пять». Как ты узнаешь, что «два плюс пять равно семи», когда всё, что ты знаешь: «два плюс четыре равно шести»?

Если ты видишь, как маленькое растение роняет семя каждый раз, когда мимо пролетает птица, ты не догадаешься, что ты можешь использовать эту отчасти автоматизированную систему для подсчёта овец. Если бы первый изобретатель узнал об этом факте, он мог бы его использовать для улучшения своей системы. Однако, ты не в состоянии вернуться к истокам и переизобрести новую систему подсчёта.

Если источник мысли находится внутри тебя самого, то с приобретением новых знаний и навыков мысль может меняться. Она поистине становится частью тебя и растёт вместе с тобой.

Старайся стать источником для всех своих мыслей, стоящих обдумывания. Если мысль первоначально пришла извне, убедись, что она также исходит изнутри. Постоянно спрашивай себя: «Как я восстановлю это знание, если оно исчезнет?» Найдя ответ на этот вопрос, представь, что знание, которое помогло бы тебе в таком случае, тоже удалено. И когда увидишь фонтан - посмотри, что ещё из него течёт.

1.Drew McDermott, «Artificial Intelligence Meets Natural Stupidity», 

SIGART Newsletter, no. 57 (1976): 4–9, doi:10.1145/1045339.1045340.

2.Richard Rorty, «Out of the Matrix: How the Late Philosopher Donald Davidson Showed That Reality Can’t Be an Illusion», The Boston Globe (October 2003).

Простая истина

Как-то я писала сочинение об экзистенциализме. Учительница тогда вернула мне его с двойкой. Она подчеркнула слова „истина“ и „истинный“ и поставила знаки вопроса на полях напротив каждого, всего раз 20. Она хотела знать, что я имела в виду под истиной.

Даниэла Эган (журналист)

Предисловие автора

Это эссе написано, чтобы восстановить наивное представление об истине.

Допустим, кто-то говорит вам: «Моё чудодейственное лекарство избавит вас от рака лёгких всего за три недели». Вы говорите: «Но я знаю о результатах клинических исследований: ваше утверждение не соответствует истине». А этот кто-то отвечает: «Понятие „истина“ довольно неточно, что вы называете истиной?»

Многие люди, поставленные перед этим вопросом, не будут знать, как ответить с достаточной точностью. Тем не менее, будет крайне неразумным отказаться от концепции истины. Было время, когда никто не знал точную формулу тяготения – и все же, шагнув с обрыва, вы бы разбились и тогда.

Часто, особенно в интернет-дискуссиях, я встречал чьи-то заявления «Х истинно», а дальше спор поворачивал в сторону поиска определения истины. Это эссе ни в коем случае не является энциклопедическим ответом на этот вопрос. Скорее я надеюсь, что спорщики прочтут это эссе, а затем вернутся к изначальному вопросу.

В этом эссе я ставлю вопросы. Если вы находите на них кажущийся очевидным ответ – скорее всего, это он и есть. Очевидный выбор не всегда наилучший, но все-таки иногда, черт возьми, он таков. Я не перестаю искать, когда встречаю очевидный ответ, но если по мере повышения моей информированности ответ все еще выглядит очевидным, то я не вижу вины в том, чтобы использовать его. Ну да, разумеется, все считают, что 2 + 2 = 4, говорят, что 2 + 2 = 4, и в повседневной жизни все ведут себя,

 как если бы 2 + 2 равнялось 4. И все же чему 2 + 2 равно в высшем, абсолютном смысле? Насколько я могу судить, все еще 4. Ответ будет равен четырем, даже если я задам этот вопрос официальным, строгим, напыщенным тоном. Слишком просто, говорите? Может быть, в этом случае мир и не должен быть сложен. Для разнообразия.

Если вы — один из тех счастливчиков, которым этот вопрос кажется тривиальным с самого начала, я надеюсь, что он окажется тривиальным и на самом деле. И если перед вами вдруг встанет глубокий и важный вопрос, вспомните, что если вы в точности знаете, как работает система, вы сами можете построить ее аналог из ведерок и камней, и это не должно быть для вас какой-то тайной.

Если вы теряетесь, пытаясь понять метафору «ведерок и камней» как метафору, попробуйте понять её буквально.

Простая истина