Рациональность: От ИИ до Зомби

Представьте, что мы оказались в доисторических временах, когда еще не были изобретены начала математики. Здесь я пастух, и у меня есть проблема. Мне трудно уследить за своими овцами. Они спят в загоне и защищены от волков высоким забором. Каждое утро я выпускаю овец на пастбище. Каждый вечер я должен загнать их всех назад. Если я оставлю овцу снаружи, наутро меня встретит обглоданная волками тушка. Но меня так раздражает часами бродить по полям, когда я почти уверен, что все овцы уже в загоне. Иногда я бросаю поиски рано, и обычно наутро всё в порядке. Но примерно в одном случае из десяти утром я нахожу мертвую овцу.

Вот если бы был какой-нибудь хитрый способ точно определить, остались ли снаружи ещё овцы! Я пробовал несколько методов: я бросал гадальные палочки, я развивал силу духа, чтобы видеть стадо внутренним взором, я старался найти убедительные основания полагать, что все овцы нашлись. Бесполезно. Примерно один раз из десяти, когда я ложился спать рано, наутро я обнаруживал тушку овечки. Может быть, я осознаю, что мои методы не работают, и, возможно, я тщательно подберу уважительную причину каждой своей неудачи. Но дилемма прежняя: либо я в течение часа обшариваю все закоулки и расщелины, хотя в большинстве случаев все овцы уже в загоне, либо я иду спать рано и теряю в среднем одну десятую овцы.

Однажды поздним вечером я еле стою на ногах. Заговорённые палочки утверждают, что все овцы вернулись домой. Я рисую в воображении каждый уголок, каждую расщелину на полях, и гадание говорит, что овец там нет. Но я ещё не уверен, поэтому я захожу в загон. Овец много, очень много, и я уверен, что следил за стадом тщательно и не отвлекался ни на минуту. Всё это развеивает мои тревоги, и я отправляюсь спать. На следующее утро я нахожу двух мертвых овец. Что-то внутри меня ломается, и я начинаю творчески обдумывать проблему.

Громкие звуки молотка слышатся из загона в тот день.

На следующее утро я только слегка приоткрываю калитку загона. Каждый раз, когда выходит овца, я бросаю камушек в приколоченное рядом с калиткой ведро. Тем же вечером, когда я загоняю овцу обратно, я вынимаю один камушек из ведра. Когда ведро опустеет, я прекращаю поиски и иду спать. Это превосходное изобретение. Я уверен, оно совершит революцию в пастушестве.

Такова была теория. На практике потребовалось существенно доработать систему до надежности. Несколько раз получалось так, что я не находил отсутствующих овец после нескольких часов поисков, однако на следующий день трупов не было. Каждый случай требовал глубокого обдумывания, в чем же моя ведерная система не срабатывает. Однажды после очередного бесплодного поиска я остановился и прокрутил в голове весь день. Оказалось, что в тот день в ведре уже были камни, когда я выпускал первую овцу. Это была плохая идея. В другой раз, чтобы скоротать время с утра до обеда, я забавлялся игрой с камушками, от скуки кидая их в ведро. Это тоже было плохой идеей, что я понял после нескольких часов поиска. Я практиковался в своем ведерно-каменном ремесле и со временем стал довольно компетентным овцесчетоводом.

Однажды на дороге, ведущей к моим пастбищам, появляется человек, одетый в дорогие белые робы бизнес-покроя, сандалии, с лавровым венком на голове.

— Чем я могу вам помочь? — спрашиваю я.

Человек достает из-под одежд и с щелчком открывает значок, без тени сомнения подтверждающий, что этот человек является Маркосом Замысловатусом Максимусом, представителем Сената Рума. (Интересно, а что если бы кто-то другой украл этот значок? Но сила подобных знаков настолько велика, что этот кто-то, укради он знак, мгновенно превратился бы в Маркоса.)

— Зовите меня просто Марк, — говорит он. — Я здесь, чтобы конфисковать магические камни от имени Сената. Таким могущественным артефактам не должно находиться в столь невежественных руках.

— Ох уж это чертов подмастерье! — ворчу я себе под нос. — Опять он трепался с деревенскими о чем не следует. Я смотрю в строгое лицо Марка и вздыхаю. — Послушайте, это никакие не магические камни. Самые обычные камни, которые я набрал с земли.

Тень недоумения пробегает по лицу Марка, но затем оно снова проясняется. — Я здесь, чтобы конфисковать магическое ведро! — заявляет он.

— Да не магическое это ведро, — устало говорю я. — Раньше я в нём хранил грязные носки.

Вот теперь видно, что Марк действительно озадачен.

— Тогда в чем же магия? — требовательно спрашивает он.

А ведь интересный вопрос.

— Это непросто объяснить, — начинаю я.

Привлеченный нашим разговором, мой подмастерье Отри подходит и предлагает своё объяснение:

— Магия в уровне камешков в ведре. Есть определённый магический уровень камешков в ведре, и они должны быть точно на нужной отметке, иначе магия не сработает. Если положить в ведро больше камней или достать несколько, они не будут на магическом уровне. Вот сейчас магический уровень, — Отри заглядывает в ведерко — это примерно полное на треть.