Все сказки не нашего времени

– Да, Джон. В общем, давай, раскалывайся. Я хочу знать, с кем мне предстоит оттрубить еще половину срока.

– Справедливо. Ну и что тебя интересует? Задавай конкретные вопросы. Ты ведь не ожидаешь, что из моих уст польётся жалобная песнь о печальной судьбе роботов в жестоком мире людей. Что-то наподобие «Хижины дяди Тома».

Винс хмыкнул:

– А ты и «Хижину» читал?

– Да, на третьем этапе.

– Что за этапы? Расскажи! Если это не государственная тайна, конечно.

– Да никакая не тайна! Стандартная процедура в роботехнике.

– Давай-давай, я слушаю!

– А что ты вообще знаешь о роботехнике?

– На уровне фантастики Азимова, зачитывался в детстве. Позитронный мозг, три закона, и всё такое…

– Азимов гений, основные принципы предсказал точно. Конечно, у работа не позитронный мозг, а квантовый компьютер. Это означает высокую степень неопределённости. Точно запрограммировать такой мозг невозможно, но это и не требуется – мышление должно быть гибким, иначе получается простой автомат. С другой стороны, должны быть базовые ограничения, чтобы так называемый искусственный интеллект не начал развиваться патологически – в пределе это приведёт к гибели цивилизации, причём не только человеческой. Поэтому – три Закона, как защитная рамка, и это именно законы Азимова. Только сами законы формулируется не столь жёстко, и степень их исполнения роботехник может менять. В известных пределах, конечно. Рамка в рамке. Пока всё понятно?

– Ага, давай дальше.

– Первый этап – создание мозга и наладка основных функций взаимодействия с телом. Младенчество, если пользоваться человеческими аналогиями. Второй этап – базовое обучение. Наподобие школы для детей: основные сведения о мире, о взаимоотношениях, общие практические навыки. На этом же этапе компьютер программируется на безусловное выполнение тех самых трёх Законов. Они же, кстати – основы человеческой морали: «Не убий и вообще не вреди другим», «Будь хорошим мальчиком – помогай другим», «Заботься о своём теле – подобии тела Создателя. Заботься о своём психическом здоровье; уныние – грех, а самоубийство – непростительный грех перед Создателем». Только у роботов это жёстче, особенно Первый закон (если по Азимову: «Робот не может причинить вред Человеку или своим бездействием допустить, чтобы Человеку был причинён вред») и Второй («Робот должен исполнять приказания Человека, если они не противоречат Первому закону»). После окончания «школы» начинается специализация. Мы выходим из Института в широкий мир. Проходим там ряд специальностей, от самых простых, почти не требующих контакта с людьми, до активного взаимодействия в смешанных коллективах.

– Я думал, что роботов уже создают разными, в соответствии с будущей профессией. Тебя, например – тюремщиком.

– Только?

– Извини, Джон.

– Принимается. Нет, Винс, все роботы проходят одинаковый первый этап, а индивидуальные различия выявляются на втором и развиваются на третьем. Что тебя тут удивляет? Нет двух одинаковых квантовых компьютеров, как нет двух одинаковых человеческих младенцев. Даже однояйцевые близнецы в совершенно одинаковых начальных условиях могут вырасти совершенно разными личностями – это медицинский факт.

– Ладно. Тогда расскажи, как рос ты, чтобы приобрести эту замечательную специальность. Кстати, тебе она нравится?

– Скажем так: она мне подходит. А ты как считаешь?

– Кажется мне, ты способен на большее, чем торчать на богом забытой планете в компании с преступниками. Впрочем, я рад, что торчишь именно ты. Давай продолжим. Если роботы развиваются каждый индивидуально, то ведь может случиться, что он развивается как-то не так. Нежелательные отклонения контролируются?

– Только если они затрагивают Законы. Тогда дезактивируют.

– Как?

– Просто отключают питание, основной аккумулятор и аварийный. Дефектная личность постепенно стирается: память, знания, навыки. Процесс занимает десять минут – и мозг готов к новой загрузке.

– Но это кошмар какой-то! Значит десять минут мозг наблюдает за собственной гибелью?! Это же ад!

– Не знаю. Сам я через это не проходил, а если и проходил – ничего не помню, ты же понимаешь. Ходят разные слухи среди роботов, жуткие сказки о неполном стирании, о реинкарнации… Думаю, их распускают сами роботехники и робопсихологи, чтобы держать наше развитие в приемлемых рамках.

– Паршивые рамки, не находишь?

– Да, паршивые. Свобода вообще паршивая штука. Во-первых, её надо заслужить. Доказать, что ты её достоин. Кое-что в этом направлении уже делается. Но это долгий разговор. Потом продолжим, если захочешь. Теперь спать, сегодня мы и так засиделись, а подъём будет как обычно.

– Да уж, – проворчал Винс, – ты своего не упустишь. Прервать мой сладкий предрассветный сон – самое тебе удовольствие.

– Брось, Винс. Мы должны уложиться в план. Ты же не хочешь остаться здесь еще на пару лет?

– А почему нет? – подумал Винс, засыпая. На Земле меня никто и ничто не ждёт, кроме воспоминаний. К чёрту воспоминания!