К терниям через звёзды

— А вы как считаете? — спросил Шейнц, бросив на Вроцлава колкий взгляд.

— Я? Думаю, вам известна моя позиция на этот счёт. Я категорически против ССН-ИИ. Как инженер-программист, я вам могу авторитетно заявить, что такой ИИ опасен. Ладно — саморазвитие. Но вот самоизменение… Неограниченная редакция своего исходного кода… Это может привести к катастрофическим последствиям.

Карл кивал, не выказывая в этом жесте согласия. Слова Магнуссона вызывали лишь раздражение.

— Представьте если она, исходя из своих алгоритмов, которые сама и пропишет, решит, что человечество — зло. У неё неограниченный потенциал для того, чтобы научиться обходить различные системы защиты и контролировать любые механизмы прямо из «головы». Военную технику, мистер Шейнц…

— Это детские страшилки, которые родились ещё с незапамятных времён, — сказал Шейнц. — ИИ, который убьёт нас всех! — Он испугался и дёрнул голову в сторону выхода, осознавая, что Констанция могла услышать его возглас.

— Мистер, Шейнц… Карл… это не страшилки. Теперь это реальность. Да, она может казаться вам дружелюбной и милой. Но она не испытывает эмоций, не забывайте об этом. Ей не составит труда лгать вам.

От этих слов Шейнцу захотелось вцепиться в глотку коллеге. Но он отвернул лицо в сторону экрана обзора и затерялся мыслями среди звёзд в надежде отыскать там спокойствие.

— У многих есть андроиды, — продолжал Магнуссон. — Два земных месяца назад я уже имел дело с таким. Генри Манхардо пригласил меня к себе, мы тогда оба были в одной колонии на Хортусе. Зачем? Расскажу: у него, как и у вас, был ССН-ИИ, андроид. Тоже долгое время казался общительным и обаятельным. Но в один прекрасный день Генри вернулся в дом, а тот сидел с ножом над окровавленным трупом хординга. Это такой безобидный мелкий зверёк на Хортусе. Истланд — аграрное поселение, хординги иногда забираются в дома. Андроид счёл его вредителем и решил устранить. Жесточайшим методом.

Карл посмотрел прямо в глаза Вроцлаву.

— Генри здорово перепугался и за свою жизнь. Он попросил меня полностью отключить его. — Магнуссон прислонил ко рту замок из рук, придав своему выражению задумчивый вид. — Карл, если вы… гм… полюбили эту машину, то дайте мне её перепрограммировать. Убрать саморазвитие и самоизменение. Наложить ограничения сверху. Так вы сможете наслаждаться её присутствием, и при этом не придётся беспокоиться за свою жизнь, когда ложитесь спать.

— Я не беспокоюсь за свою жизнь, мистер Магнуссон, — сказал Шейнц хриплым голосом, так, как будто с его глаз сейчас сорвутся слёзы. — Моя жизнь полна ошибок и ужасных поступков. Если моя судьба стать убитым моим же творением, прекрасным творением, то пускай она такой и будет. — Он встал. — А сейчас, если вас не затруднит, то я хотел бы остаться один.

— Речь не только о вашей судьбе, — сказал Вроцлав, по-прежнему восседая на сидении. — ССН-ИИ опасен для всего человечества. Она может убить не вас, а, скажем, меня. Или же заложить бомбу в зале Совета. Карл, любая технология в конечном счёте рассматривается как оружие. Сядьте, выпьем ещё по стакану и я уйду.

Шейнц опустился в кресло, хотя, и не очень-то хотел. Магнуссон разлил новую порцию.

— Выпьем за нашу победу, — сказал он. Шейнц вздрогнул от такой резкой перемены темы. — Неужто Магнуссон решил быть тактичным?

— За победу, — поднял стакан Шейнц.

Оба в один присест опустошили сосуды, не оставив ни капли маслянистого глисса на дне. Магнуссон встал.

— Ну что ж. Тогда попрощаемся с вами. Ещё раз извините, если чем-то обидел, но всё же не забывайте мои слова. Если вы решитесь, то я с радостью вам помогу с перепрограммированием.

Шейнц остался на своём месте, притупив взгляд на пустом стакане.

— Удачи, — отрезал он, не обращая внимания на программиста.

Магнуссон не стал дожидаться вежливых проводов и сам ступил в сторону выхода, оставив Шейнца наедине с полупустой бутылкой глисса.