Мысли и сердце

Задаю положенные вопросы о здоровье. Саша односложно отвечает. Смотрю температурный листок, анализы и назначения. Ничего не изменилось, все достаточно плохо: моча идет только с мочегонными, все время сердечные средства, ограничение жидкости, строгий постельный режим. При этих условиях удается кое-как поддерживать кровообращение.

Знаю, что недолго это продлится. Створки клапанов делаются все тверже и тверже, крови пропускают все меньше.

И он знает.

Нужно положить конец неизвестности. Чем бы это ни кончилось, как бы ни было истолковано, я должен использовать последние шансы.

Все это хорошо. Я долблю себе об этом уже два месяца. Но не могу. Даже не потому, что боюсь разговоров, лишних поводов для комиссий... Э, брось — и это тоже. Копни поглубже. Может быть, немножко. Главное — я не верю. Потерял веру в себя, в свое право решать. Вот это и стоит между нами.

— Как идут занятия?

— Идут. До последнего вздоха. (Намек? Помолчу.) Вот видите, закончил работу «Общие принципы моделирования сложных систем». Помните, рассказывал? Теперь написано и перепечатано.

Показал рукопись. Не толстая, страниц полсотни. Может быть, я должен попросить прочесть?

— Есть у вас копия, почитать?

— Через пару дней. Я выправлю текст, тогда.

Тем лучше. Наверное, там трудно, и я едва ли пойму. С возрастом все труднее становится разбираться в новых вопросах. Хотя я уже немного привык к терминам.

Нет, я еще не могу сегодня пообещать операцию.

— Главное — это моделирование человеческой личности и отношений между людьми. Помните, я говорил о «полных», «частных» и «обобщенных» моделях систем? Это же относится к человеку и обществу. Полная модель человека способна воспроизводить его действия в том же темпе и полноте, как и сам человек. Будет как настоящий.

Пауза. Ему тоже хочется рассказывать даже не очень квалифицированному слушателю. Скучает.

— Самое главное, что я вижу, знаю основные программы поведения человека и их взаимодействие. Если бы еще... впрочем, нужно еще много лет. Может быть, двадцать, может, все пятьдесят.

Молчу. У него тоже взор ушел куда-то. Если был бы здоров, то мог бы дожить. Нужно бы подбодрить, но язык не поворачивается. Почему-то всегда стыдно обманывать очень умного человека, думаешь: «Все равно догадывается». Но коллеги говорят, что нужно врать и умному. Что больной все равно попадает на удочку, если верит врачу. Воздержусь. Отвлеку.

— Робот станет независим?

— Ну, можно предусмотреть его подчиненность. Заложить контролирующие структуры, все равно как искусственные инстинкты. Чтобы человека не трогал, например. Но только в некоторых пределах, не больше. Ведь самое интересное — сделать робота умнее человека. Искусственный мозг неограничен.

— Помните «Законы роботехники» у Азимова?

— Совершенно верно. Эти законы можно удержать только на нижних ступенях развития искусственного интеллекта. Если у робота не будет «программы бунта», то он никогда не будет истинно творческой личностью. Следовательно, останется ниже человека. А это неинтересно. Вот создать выше человека — это да!

— Направить бунт только в сторону науки.

— Нет, это невозможно. Наука — это и есть все. Никакой другой сферы вообще нет. Политика, наука, искусство — это все одно и то же.

Замолчал.

Сколь велика сила человеческого духа! Смотришь на него и удивляешься: в чем душа держится, а он мечтает, работает, будто перед ним — вечность...

Нет, я должен сделать попытку. Сказать? Есть силы?

Может быть, он еще и год протянет в такой тепличной обстановке. Еще придумает много интересного.

Не протянет. А ты просто боишься.

— Вам не тяжело писать?

— Немножко. Но в резерве есть еще магнитофон. Буду диктовать.

Все знает. Уходить? Нет, еще.

— Значит, нельзя сделать робота-творца для какой-то узкой сферы деятельности? Чтобы он не мог посягнуть на человека?

Подумал. Видимо, ищет слов.

— Не то чтобы совсем нельзя, однако это будет малое творчество на низком этаже. Сейчас ЭВМ манипулирует ограниченной информацией, программы имеют мало этажей. Не очень умная машина, много глупее человека. Если сделать умнее, то ограничить нельзя. Нужно программировать «интерес», а значит, она будет соваться, куда и не ожидаешь.

Угробят они человечество, эти фанатики.

— Послушайте, Саша. Ведь это опасно — создавать такие машины. Улыбнулся.

— Я знаю. Но как можно удержаться? И это еще так далеко... даже для здоровых. Знаете, такое странное противоречие. Для управления обществом уже нельзя обойтись без машин.

— Обществом?

— Ну конечно. Возьмем экономику. Разнообразие современной техники столь велико, что нельзя удовлетворительно управлять экономической жизнью страны без машин. Никакие Госпланы не смогут. Машины нужны уже не только для экономии человеческого труда, они необходимы для самого существования системы, так же как без ЭВМ нельзя управлять спутником. Понимаете?

— Ну, на здоровье. Пусть считают граммы, метры, рубли. Какая же здесь угроза?