Искусственный интеллект – надежды и опасения

Наверное, до по-настоящему сверхразумного ИИ еще далеко. В ближайшем будущем нужно сосредоточиться на разработке более совершенных моделей человеческого поведения; это будет крайне полезно для любой компании, зарабатывающей на анализе человеческого поведения, то есть, если уж на то пошло, практически для любой компании, которая ведет бизнес в интернете. В последние несколько лет появились новые коммерческие технологии распознавания изображений и текста – на основе разработки надежных моделей репрезентации зрения и языка. Следующим рубежом станут надежные модели поведения.

Конечно, понимание того, как работает человеческий разум, само по себе не позволит улучшить взаимодействие компьютеров с людьми. Компромисс между ошибками и чрезмерным тщанием, характеризующий человеческое познание, есть компромисс, с которым сталкивается любой реальный интеллектуальный агент. Люди суть поразительный пример систем, которые действуют разумно, несмотря на значительные вычислительные ограничения. Мы достаточно преуспели в разработке стратегий, которые позволяют успешно преодолевать проблемы, не прилагая излишних усилий. Если описать, как именно мы это делаем, компьютеры смогут трудиться умнее, а не усерднее.

Глава 13

Ввести человека в уравнение ИИ

Анка Драган

доцент кафедры электротехники и компьютерных наук в Калифорнийском университете (Беркли), сооснователь и руководящий сотрудник лаборатории исследований ИИ в Беркли (BAIR), а также ведущий научный сотрудник Центра изучения совместимости ИИ с человеком.

Исследования уроженки Румынии Анки Драган сосредоточены на алгоритмах, которые позволят роботам взаимодействовать с людьми на благо последних. Она руководит лабораторией «Inter ACTL» в Беркли, и там ее студенты изучают различные области роботизации (помощь больным и нетрудоспособным, производство, беспилотные автомобили), опираясь на современные достижения в оптимальном управлении, планировании, машинном обучение и когнитивных науках. Хотя ей чуть больше тридцати, она уже успела опубликовать ряд научных статей в соавторстве с ветераном исследований ИИ и своим наставником Стюартом Расселом; в этих статьях рассматриваются различные аспекты машинного обучения и сложные проблемы выравнивания ценностей.

Она разделяет озабоченность Рассела безопасностью ИИ. «Непосредственный риск представляют собой агенты, демонстрирующие нежелательное и неожиданное поведение, – сказала Анка интервьюеру из Института будущего жизни. – Даже если мы планируем использовать ИИ на благие цели, все может пойти не так именно потому, что мы плохо справляемся с постановкой целей и заданием ограничений для агентов ИИ. Их решения зачастую не соответствуют нашим ожиданиям».

Поэтому Драган считает необходимым помогать роботам и программистам преодолевать множество затруднений, возникающих вследствие непонимания намерений друг друга. Роботы, говорит она, должны задавать нам вопросы. Они должны задумываться о собственном предназначении и должны назойливо расспрашивать программистов-людей на этот счет во избежание последствий, которые она сама эвфемистически именует «неожиданными побочными эффектами».

В основе искусственного интеллекта лежит наше математическое определение того, что такое агент ИИ (робот). Когда мы описываем робота, то перечисляем состояния, действия и награды. Подумайте, например, о роботе-курьере. Его состояния суть места нахождения в пространстве, а действия суть движения, которые робот совершает, чтобы добраться из одного места в другое. Чтобы робот мог решать, какие действия предпринять, мы предусматриваем функцию вознаграждения, то есть сопоставляем состояния и действия с системой оценок, отражающих, насколько хорошо выполнено действие в конкретном состоянии, – и позволяем роботу выбирать те действия, которые сулят наибольшее «вознаграждение». Робот получает максимум, когда достигает пункта назначения, а несколько баллов вычитают за сам процесс перемещения из точки в точку; функция вознаграждения стимулирует робота добираться до места назначения как можно быстрее. Аналогичным образом беспилотный автомобиль будет вознагражден за движение по маршруту и лишится нескольких баллов за опасное сближение с другими автомобилями.

С учетом сказанного отметим, что задача робота состоит в выяснении того, какие действия ему надлежит предпринять, чтобы получить наибольшее вознаграждение. В разработке ИИ мы старательно прививаем роботам такую способность. Причем неявно предполагается, что, если мы добьемся успеха – если роботы сумеют однажды приступить к принятию решений и превратить это осознание в действия, – мы получим роботов, полезных отдельным людям и обществу в целом.