Искусственный интеллект – надежды и опасения

Первое связано с теми самыми абстракциями, от которых отталкивались Тьюринг и фон Нейман. Пятидесятилетнее, подгоняемое законом Мура состязание в производстве программного обеспечения, которое учитывало бы удвоение мощности компьютеров каждые два года (по сути, типичная инженерная деятельность), оказалось отодвинутым на второй план. Разработка программного обеспечения велась быстро и провоцировала ошибки. Эта ускоренная разработка программного обеспечения вне стандартов качества позволила обнаружить множество способов использования хранилища данных и инструкций в архитектуре фон Неймана (в одной и той же памяти). Среди наиболее распространенных способов можно отметить «переполнение буфера», когда число на входе (или длинная строка символов) больше, чем ожидал программист, и «перетекает» в область хранения инструкций. Намеренно задавая входное число намного больше, некто с помощью соответствующего программного обеспечения может внедрить в компьютер сторонние инструкции и тем самым изменить его функционирование. Вот фундамент разработки компьютерных вирусов, названных так из-за сходства с биологическими вирусами. Последние внедряют в клетку дополнительную ДНК, и механизм транскрипции и трансляции клетки слепо интерпретирует новые данные, творя белки, которые могут нанести урон клетке-хозяину. Кроме того, клеточный механизм репликации обеспечивает размножение вируса. Так малая чужеродная сущность может взять под контроль гораздо большую сущность и заставить ту неожиданно изменить свое поведение.

Эти и прочие формы цифровых атак лишили нашу повседневную жизнь былой безопасности. Ведь мы полагаемся на компьютеры практически во всем. Мы передали им управление инфраструктурой (электричество, газ, дороги, автомобили, поезда, самолеты), а инфраструктура теперь уязвима. Мы полагаемся на компьютеры в банковских операциях, в оплате счетов, накоплении пенсий, ипотеке, при покупке товаров и услуг – и опять-таки рискуем. Мы полагаемся на компьютеры в наших развлечениях, наших коммуникациях, деловых и личных, в обеспечении физической безопасности, в получении информации о мире и на выборах; все это сегодня далеко не безопасно. В ближайшем будущем исправить ситуацию вряд ли получится. Между тем многие сферы нашего общества остаются уязвимыми для атак – со стороны обычных преступников и со стороны враждебных государств.

Второе новшество заключается в том, что вычисления оставили далеко позади рамки вычислительных функций. Вместо этого программы постоянно находятся онлайн и могут собирать данные о последовательностях запросов. В соответствии со схемой Винера / Тьюринга / фон Неймана мы могли думать, что шаблон коммуникации для веб-браузера будет следующим:

Пользователь:

Покажи мне веб-страницу А.

Браузер: Вот веб-страница А.

Пользователь: Покажи мне веб-страницу Б.

Браузер: Вот веб-страница Б.

Ныне же все может выглядеть так:

Пользователь: Покажи мне веб-страницу А.

Браузер: Вот веб-страница А. [И я запомню, что ты хотел увидеть веб-страницу А.]

Пользователь:

Покажи мне веб-страницу Б.

Браузер: Вот веб-страница B. [Я вижу корреляцию между ее содержанием и содержанием ранее запрошенной веб-страницы A, поэтому обновляю свою модель твоего поведения и передаю ее в компанию, которая меня изготовила.]

Когда машина перестает просто вычислять функции, а начинает вместо этого фиксировать состояния, она может приступить к формулировке выводов о человеке на основании последовательностей запросов, ей задаваемых. Когда разные программы устанавливают корреляции между разными потоками запросов – скажем, сопоставляют поиск в интернете с сообщениями пользователя в социальных сетях, оплатой каких-то покупок или временем на просмотр конкретной рекламы, а также с местонахождением пользователя (благодаря смартфонам с поддержкой GPS), – тогда совокупность сведений, доступных многим программам, которые взаимодействуют друг с другом и с базами данных, оборачивается совершенно неожиданной утратой конфиденциальности. Громадный скачок в технологическом развитии множества компаний Западного побережья[70] объясняется тем, что они принялись монетизировать эти сведения без ведома пользователей, взаимодействующих с вычислительными платформами.