Человек + машина. Новые принципы работы в эпоху искусственного интеллекта

Анализ юридических, психологических и других вопросов

Начните с организации постоянного диалога с отделом нормативно-правового обеспечения. Система искусственного интеллекта поможет обеспечить соблюдение нормативно-правовых актов (посредством получения отчетов и систематизации данных), однако эта же система может создавать определенные трудности. В некоторых случаях адаптивные системы искусственного интеллекта вызывают нежелательную ответную реакцию. Выясните, как система искусственного интеллекта согласуется с действующими протоколами управления рисками и где следует улучшить эти протоколы, чтобы привести их в соответствие с динамичной системой искусственного интеллекта, принимающей решения. Важную роль в этом процессе играют сотрудники, функции которых относятся к левой части «недостающей середины», — специалисты по обучению, разъяснению и эксперты по устойчивости систем искусственного интеллекта.

В целом, если вы предоставляете сотрудникам возможность вносить коррективы в результаты работы системы искусственного интеллекта (что позволяет им чувствовать себя активными участниками процесса, а не просто его безмолвными исполнителями), их доверие к ИИ возрастает. Рассмотрим в качестве примера инженера, который добивается такой скромной цели, как увеличение производительности нефтяной скважины на 2%. Для этого инженер может воспользоваться программой искусственного интеллекта, корректируя ее параметры и внимательно отслеживая результаты. В частности, он может сыграть роль эксперта по устойчивости, делая все необходимое, чтобы программа работала. Таким образом, когда инженер добивается поставленной цели с помощью системы искусственного интеллекта, он учится доверять системе. Как показывают исследования, предоставление пользователям определенного контроля над алгоритмом повышает вероятность того, что они сочтут его превосходным и продолжат использовать искусственный интеллект в будущем[138]

.

Однако не всегда есть возможность контролировать реальные алгоритмы. Обратимся к такой сложной задаче, как распределение больничных коек. Одна компания разработала цифровую модель больницы и схему размещения пациентов. В эффективно работающей больнице коэффициент использования больничных коек колеблется от 70 до 80%, однако с помощью этой программы больница может повысить этот показатель до 90% и более. Эту программу установили в одной из больниц, рассчитывая на рост в 10–15%, однако никакого повышения не произошло. Выяснилось, что свою роль сыграл человеческий фактор. В частности, медсестра, которая долгое время работала с одними и теми же врачами, полагалась на собственный опыт в принятии решений. Когда поступали рекомендации по размещению пациентов, она просто игнорировала их, не веря, что алгоритм справится лучше[139].

Как менеджеры помогли медсестрам научиться доверять искусственному интеллекту? Они просто объяснили, почему размещение определенного пациента на определенной больничной койке является оптимальным. (Специалист по разъяснению может принять участие в разработке программного интерфейса и включить в него краткое описание системы или обоснование соответствующего метода распределения больничных коек.) Менеджеры обнаружили, что без предоставления таких разъяснений люди больше доверяют суждениям человека, чем рекомендациям алгоритма. С другой стороны, менеджеры пришли к выводу, что им необходимо предоставить определенную свободу действий сотрудникам, отвечающим за распределение больничных коек, наделив их полномочиями принимать решения[140].

Таким образом, для формирования доверия к системам искусственного интеллекта необходимо сделать так, чтобы люди, работающие с этими системами, были заинтересованы в результате и чтобы у них было ощущение контроля над внутренним устройством системы, как в примере с инженером-нефтяником. В идеале системы искусственного интеллекта необходимо проектировать таким образом, чтобы они объясняли свои решения и помогали людям сохранять определенную автономию в принятии решений. Разработка процессов, полностью основанных на доверии, требует времени и экспериментирования, однако примеры из текущей практики показывают, что если все стороны (люди, машины, а также люди и машины, работающие вместе) пользуются доверием друг друга, это позволяет улучшить результаты для всех.

4. Данные: представьте цепочку снабжения данными