Человек + машина. Новые принципы работы в эпоху искусственного интеллекта

Что касается интуиции, сотрудникам предлагают определять и называть свои опасения, когда что-то кажется им спорным с этической точки зрения или не соответствует выбранному курсу. Уэнчел рассуждает следующим образом: «Даже если ваша модель обеспечивает очень хорошие результаты и очень высокую точность, люди должны чувствовать, что могут спокойно вмешаться и сказать: “Послушайте, может, мы действительно получаем высокую точность, но меня беспокоит то, как именно мы добиваемся этого”»[161].

Несмотря на поразительные успехи в области искусственного интеллекта, о которых мы говорили на протяжении всей книги, ему до сих пор трудно формулировать проблему[162]. Искусственный интеллект может правильно выполнять многие задачи, но он еще не умеет правильно оценивать ситуацию и понимать людей. А значит, человеческое суждение и эффектуация (рациональная постановка целей) всегда будут ключевым элементом любого переосмысленного процесса. Например, когда компания Royal Dutch Shell использует роботов для мониторинга оборудования и проверки систем безопасности на своем удаленном объекте в Казахстане, ей по-прежнему требуются компетенции сотрудников-людей, отслеживающих риски. Робот Sensabot — первый в своем роде робот, который нефтегазовые компании могут использовать в потенциально опасной среде. Удаленный оператор управляет его действиями, отсматривая видео и оценивая риски[163]

. Точно так же опыт и знания человека остаются важнейшим элементом переосмысленных процессов в компании Caterpillar. На этапе проектирования новой сборочной линии и генерирования ее цифровой модели (с помощью системы искусственного интеллекта) требуется участие инженеров-программистов. Такая виртуальная пошаговая отладка позволяет на раннем этапе проанализировать сборку, обслуживание и эргономику, обнаруживая проблемы до того, как сборочная линия будет построена. Это позволяет экспертам еще на старте устранить любую неоднозначность или другие проблемы, опираясь на свои суждения.

Интегрированный навык № 4. Умное запрашивание

Определение. Понимание того, как задавать вопросы системе искусственного интеллекта на разных уровнях абстрагирования, чтобы получить нужную информацию.

Как изучить чрезвычайно сложную систему? Как составить прогноз взаимодействия между сложными массивами данных? Люди просто не могут сделать это самостоятельно, поэтому они должны задавать вопросы дружественному искусственному интеллекту: «Двойник, насколько ты уверен?»; «Двойник, что ты рекомендуешь сделать?». В компании GE специалисты по техническому обслуживанию, владеющие навыком умного запрашивания, понимают возможности и ограничения системы искусственного интеллекта и знают, как получить информацию, необходимую для принятия взвешенного решения. Такие специалисты используют свои сильные стороны и не дублируют сильные стороны машины. При этом машина обучает людей тому, как использовать ее, точно так же как люди обучают машину. В конечном счете именно человек с его опытом принимает решение, ремонтировать ротор или же заменить его.

В рамках проводимых исследований в самых разных областях мы наблюдаем умное запрашивание в действии. Специалисты задают умные вопросы, выбирая оптимальный груз для товарных составов, изучая взаимодействие лекарственных препаратов и молекулярные взаимодействия, а также стремясь найти модель оптимального ценообразования в сфере розничной торговли. В частности, розничное ценообразование служит полезным сценарием для умного запрашивания, поскольку в основе этого процесса лежит большой объем сложных данных, влияющих на результаты продаж.