Smart Management

Для контроля распространения пандемии COVID-19 китайское правительство использовало приложения для отслеживания местоположения, основанные на искусственном интеллекте и изначально разработанные технологической компанией Alibaba. В каждой провинции или крупном городе было свое приложение для отслеживания, и эти приложения присваивали каждому человеку цветовой код: зеленый (свободное передвижение), желтый (ограниченное передвижение) или красный (запрет на передвижение за пределами места жительства или замкнутого пространства). Один из нас жил в Пекине и ездил в Шанхай летом 2021 года. В один прекрасный день его код в приложении для Пекина стал желтым, а в приложении для Шанхая остался зеленым. Он звонил во всевозможные государственные учреждения, спрашивал о причинах и умолял отменить желтый код, поскольку он не позволял ему купить билеты на поезд или самолет обратно в Пекин. Ответ всегда был один: "Мы приняли ваше дело к сведению и свяжемся с вами в ближайшее время". Прошла неделя, две недели, и на четвертой неделе он наконец стал зеленым. К тому времени он пропустил несколько важных личных встреч, вынужденно задержался в Шанхае и очень разозлился на приложения для отслеживания. Бесчисленное множество людей в Китае сталкивались с подобными проблемами, и некоторые из них ужасно страдали. 23

Эта личная история демонстрирует множество проблем, связанных с решениями, принимаемыми алгоритмами "черного ящика". Во-первых, они мощные, но упрямые; если решение принято, его очень трудно отменить. Во-вторых, люди-операторы, как правило, не знают, как алгоритмы принимают решения, и не имеют представления о том, как исправить ошибку, если она произошла. В-третьих, они медленно учатся на основе обратной связи, возможно, потому, что для обнаружения ошибки в программировании требуется много времени, или потому, что система настолько сложна, что изменение одного кода может случайно привести к другим ошибкам. В-четвертых, они снимают с человека ответственность за принятие решений, что делает их удобными для масштабирования, но затрудняет определение того, кто (или что) виноват, если решение окажется неверным. Наконец, они подвержены злоупотреблениям со стороны контролирующих лиц, и даже если ими не злоупотребляют, есть подозрения в злоупотреблениях, поскольку процесс принятия решений настолько непрозрачен для посторонних. Алгоритмы "черного ящика" используются не только в китайских приложениях для слежки, но и все чаще в организациях по всему миру, чтобы следить за тем, что делают их сотрудники минута за минутой, и принимать решения о том, кого нанимать, увольнять и продвигать по службе.

На протяжении многих поколений люди изобретали инструменты и машины, чтобы повысить производительность и облегчить жизнь. Прозрачность не была важным вопросом, поскольку мельницы, автомобили и телефоны - это сборки деталей, и функциональность каждой из них известна. Сложные алгоритмы ИИ - это инструмент другого рода. Части, из которых они состоят, невидимы для пользователей, а внутренние механизмы работы ускользают от большинства. Люди склонны доверять прозрачным вещам, потому что мы можем понять их, проверить и улучшить. Пока алгоритмы ИИ остаются непрозрачными, людям будет сложно по-настоящему доверять принимаемым ими решениям.

Движение вперед

В мире, где все больше технологий, большинство компаний боятся не успеть за последними тенденциями и остаться позади. ИИ, похоже, является одной из таких тенденций, которую нельзя пропустить. Прежде чем вливать миллионы в найм инженеров по ИИ, закупать оборудование и программное обеспечение, а также перестраивать свои бизнес-операции, компаниям следует осознать все плюсы и минусы. Как утверждает принцип стабильного мира, сложные алгоритмы ИИ могут обеспечить превосходное решение проблем, приближенных к маленьким мирам, где данных много, а неожиданностей мало, но они сталкиваются с проблемами в большом мире, где данные часто ненадежны, неожиданности могут произойти в любой момент, а многие факторы не поддаются контролю со стороны компании. Кроме того, алгоритмы ИИ "черного ящика", эффективные или нет, создают проблемы и вызывают опасения из-за своей непрозрачности.

Умные эвристики хорошо работают в большом мире неопределенности. В целом это тоже алгоритмы ИИ, но ИИ здесь психологический, что означает две вещи: они основаны на человеческом опыте и интеллекте, как изначально предполагал Саймон, и они удовлетворяют психологические потребности человека, такие , как прозрачность, доверие, справедливость и конфиденциальность. Именно такой ИИ может быть более полезен для компании, ее руководителей и сотрудников. Как сказал Тим Кук, генеральный директор компании Apple, "чтобы искусственный интеллект был по-настоящему умным, он должен уважать человеческие ценности.... Если мы ошибемся в этом, то опасности будут огромными". 24