Грядущая буря

— Теперь, снова же согласно словам моего отца, там должен быть еще один компонент — что-то вроде органического искусственного интеллекта, как его можно было бы назвать. По его догадке, он должен расположиться где-то в уголке мозга жертвы, но это не обязательно должно быть именно там, поскольку он имеет доступ к центральной нервной системе. Предположительно, искусственный интеллект работает с набором спусковых критериев, которые он мониторит, прежде чем активировать «мышечную память», заложенную в наннитах. Очевидно, что эти критерии не могут быть слишком сложными.

Рабенстранге снова кивнул. Надеждам древней кибернетики достичь полномасштабной чувствительности «искусственного интеллекта» так и не суждено было сбыться. Огромные успехи были достигнуты в разработке «блестящих программ», которые могли бы имитировать интеллект, отсюда и дальнейшее использование термина «искуственный интеллект» (хотя это было технически неверно), но все эти программы могли реагировать только на параметры, которые программист мог предвидеть. Способность различать срабатывание критериев в чем-то настолько сложном, как обычное человеческое взаимодействие, было чрезвычайно трудно, пока программист не выберет очень специфический срез взаимодействий, которые могут возникнуть, или встроить в механизм программу, чтобы получить дополнительную информацию и экстраполировать ее. Например, искусственный интеллект, созданный для обработки запросов в сфере обслуживания, или для работы воздушного такси, имеет возможность прояснить ситуацию и желания клиента, задавая уточняющие вопросы, что может дать невероятно убедительную имитацию подлинной чувствительности в пределах своей компетенции. Однако, оказавшись за пределами своей компетенции, и не имея возможности расширить информационную базу, ситуация для искусственного интеллекта становится совершенно другой. И если доктор Харрингтон был прав, исскусственный интеллект в этом случае не будет иметь возможности задавать «уточняющие вопросы», прежде чем начать действовать.

— Во всяком случае, согласно мнению моего отца, искусственный интеллект срабатывает только в определенной ситуации. На самом деле, он, возможно, сбоит, не срабатывая в нужных ситуациях, даже если это означает упущенные возможности — с целью избежания несчастных случаев, которые могли бы сподвигнуть кого-то призадуматься над тем, какого черта здесь происходит. И конкретные действия, которые могут быть запущены, выбираются только из множества тех, что могут быть переданы жертве с помощью «наложенной мышечной памяти». Итак, предполагая что он прав, эта технология не может заставить кого-либо, скажем, ввести компьютерный код, находящийся в памяти жертвы, а не в памяти наннитов. И она не может получить доступ к ее знаниям или вынудить находящийся в сознании мозг делать что-то против его воли — например, вынуждая его лгать с целью обойти системы безопасности, или придумать свой собственный план для какого-либо убийства или саботажа. Отец говорит, что это, вероятно, будет возможно с помощью, скажем так, некоторой предварительно записаной в наннитах лжи — однако он не знает, как это буде звучать — как голос жертвы, или голос того, кто проектировал мышечную память для наннитов. Но это не что-то вроде… гипноза или психической настройки. Эта технология не может вынудить жертву предоставить верный код или пароль, если только тот, кто программировал ее, не раздобыл верный ответ с самого начала.

— Но если программист имел с самого начала пароль или компьютерный код, он может вынудить жертву ввести его? — спросил Рабенстранге, прищурив глаза.

— Возможно. Ну, вполне возможно, в любом случае. — Хонор пожала плечами. — Мы снимаем в темноте, Чин-лу. Как вы говорите, у нас было больше времени, чтобы подумать обо всем этом, и мы имели более полную информацию — но без спецификаций, которые МакБрайд никогда не имел, либо никогда не предоставлял нам, все это лишь теория.

— Понимаю. — Рабенстранге откинулся в своем кресле еще раз, правой рукой поглаживая спину Нимица, и поморщился. — Понимаю, но это предоставляет почти столько же вопросов, сколько «теоретически» ответов, не так ли?