Человек + машина. Новые принципы работы в эпоху искусственного интеллекта

Противоборство ботов

В 2016 году в Лас-Вегасе состоялся конкурс DARPA Cyber Grand Challenge, ставший своего рода ареной борьбы разных моделей ботов. Автоматизированные системы были запрограммированы на поиск и использование брешей в программном обеспечении машин-конкурентов и одновременно на отражение их атак[41].

Победил бот Mayhem, созданный в рамках проекта ForAllSecure Университета Карнеги — Меллон. Он выиграл, используя тактику, разработанную на основе теории игр. В сущности, он искал бреши в собственной системе безопасности, после чего проводил анализ рентабельности, решая, следует ли немедленно устранить эти уязвимости (для этого системе требовалось ненадолго отключиться от сети). Если атака казалась маловероятной, программа могла дольше проработать онлайн, используя слабости других систем.

У ботов, участвовавших в соревновании, имелись баги, свидетельствовавшие о том, что программы были недоработаны, однако эксперты сошлись во мнении, что системы действовали впечатляюще; в некоторых случаях им удалось найти и исправить заранее внедренные баги быстрее, чем это сделал человек. Все это указывает на формирование мира автоматизированного хакерства, в котором роль человека принципиально изменится: он будет обучать ботов или контролировать их поведение с целью предотвратить нарушения правовых или этических норм.

Компания Darktrace предлагает продукт Antigena, смоделированный по образцу иммунной системы человека, идентифицирующий и нейтрализующий баги по мере их появления[42]. Поведенческий анализ сетевого трафика — ключевой метод компании Vectra. Ее программа, оснащенная искусственным интеллектом, изучает характеристики вредоносных активностей в Сети и способна автоматически принимать меры к подавлению атаки или делегировать проблему команде экспертов по безопасности[43]

.

Переосмысление процессов, связанных с людьми

Технологии искусственного интеллекта позволяют надеяться, что многие рутинные и однообразные задачи можно будет перепоручить программам-роботам, что позволит сотрудникам получать от работы больше удовлетворения. Это и есть «недостающая середина» симбиотического взаимодействия человека и машины. Именно из нее — а не из автоматизации — компании смогут извлечь максимальную выгоду, инвестируя в передовые цифровые технологии.