Человек + машина. Новые принципы работы в эпоху искусственного интеллекта

Безусловно, дозированное неприятие приносит пользу. Наши собственные исследования, так же как и исследования Pew Center, говорят о том, что руководители должны поддерживать разумное равновесие между скептицизмом и принятием глубоких перемен, обусловленных внедрением искусственного интеллекта[133]. Однако следует обратить внимание на такие положительные моменты, как возможность более полного сбора данных, что позволит банкам принимать более объективные решения по кредитам, тогда как в прошлом предвзятость банкиров лишала многих людей возможности получить кредит из-за расовой принадлежности, пола или места жительства. В медицинских учреждениях также видят, что искусственный интеллект помогает оптимизировать расходы, сокращая или увеличивая число определенных задач (действий), которые врачи просто не могут выполнить для такого количества пациентов, как бы они этого ни хотели.

Разумеется, мы до сих пор пытаемся определить, что искусственный интеллект может и чего не может делать, а также как лучше всего внедрить его в бизнес-процессы. Именно поэтому нецелесообразно слепо доверять всем системам искусственного интеллекта в равной мере. Взвешенные суждения людей остаются важнейшей составляющей процесса внедрения искусственного интеллекта.

Однако самые разные системы искусственного интеллекта, от программных ботов до многошарнирных роботов-манипуляторов, получили в компаниях такое широкое применение, что это меняет рабочие обязанности и преображает организационную структуру. Так как же сформировать культуру доверия, распространяющуюся даже на роботов-коллег? Один из способов — протестировать систему искусственного интеллекта внутри компании и обучить сотрудников работе с ней, как показано в разделе «Экспериментируйте». На следующем этапе, когда решение готово к полномасштабному внедрению, можно использовать также некоторые из представленных ниже базовых инструментов и методов, чтобы укрепить доверие людей к новой технологии и помочь им мыслить более рационально.

Установление границ

Один из подходов сводится к тому, чтобы установить ограничения внутри процесса, основанного на искусственном интеллекте. Это позволит контролировать наступление нежелательных последствий. В качестве примера можно привести чат-бот «Tay» компании Microsoft. В 2016 году система «Tay» была внедрена в Twitter в качестве бота, который должен был обучаться, взаимодействуя с другими пользователями. За несколько часов бот научился использовать нецензурные, расистские и сексистские выражения, поэтому создатели сразу же удалили его[134]. Какие способы защиты могла использовать компания Microsoft в данном случае: фильтры по ключевым словам, фильтры по контенту или программу, отслеживающую настроения пользователей? В сфере промышленного производства также полезно установить границы: что системе искусственного интеллекта разрешено делать, а что нет. При этом необходимо, чтобы об этих ограничениях знали все участники процесса. Как правило, эксперт по устойчивости определяет границы, ограничения и нежелательные последствия работы системы искусственного интеллекта, а затем разрабатывает границы, чтобы она не «сбивалась» с правильного пути.

Использование контрольных точек, роль которых играют люди

Девяносто два процента специалистов по автоматизации не доверяют роботам полностью. Одна из проблем — неуверенность людей в том, что робот «думает» или планирует делать, — они считают машину непостижимым черным ящиком. По мнению этих же специалистов (76%), лучшее решение данной проблемы сводится к тому, чтобы использовать визуальный вывод аналитических данных, а также панель, отображающую другие показатели[135]

. Это простое решение может снизить непрозрачность системы и обеспечить информирование людей на должном уровне. В этом случае ключевую роль играет специалист по разъяснению. Даже если невозможно в полной мере понять, как работает система искусственного интеллекта, некоторое представление о ее внутреннем устройстве может принести большую пользу. Специалисты по разъяснению должны понимать, что следует знать людям, а также чем должна поделиться система.

Максимальное сокращение «зоны моральной деформации»

У таких сервисов, как Uber, Lyft и Mechanical Turk компании Amazon, программное обеспечение с элементами искусственного интеллекта дополняет некоторые управленческие функции: распределяет задачи, обеспечивает обратную связь и формирует рейтинги, а также помогает людям отслеживать успехи в достижении поставленных целей. Повышение эффективности управления с помощью систем искусственного интеллекта — необходимое нововведение в тех компаниях, бизнес-модель которых подразумевает масштабирование и наём сотен тысяч сотрудников во всем мире. Однако если можно разгрузить определенные виды деятельности, переложив выполнение задач на искусственный интеллект, то ответственность за управление ими переложить нельзя.