Искусственный интеллект – надежды и опасения

Подобная программа глубинного обучения использовалась для того, чтобы научить компьютер играть в го – хотя всего несколько лет назад еще считалось, что эта игра не для ИИ, поскольку крайне трудно оценить успешность принимаемых в ней решений. Бытовало мнение, что лучшие игроки в го во многом полагаются на интуицию и чувство позиции, а потому такое мастерство требует особого – человеческого – интеллекта. Но программа AlphaGo, разработанная компанией DeepMind, после обучения на тысячах высокоуровневых партий в го, сыгранных людьми, а также миллионов партий с собой, смогла превзойти лучших игроков-людей за короткое время. Еще более удивительно, что «родственная» ей программа AlphaGo Zero, обучавшая с нуля через поединки с собой, оказалась сильнее версии, изначально разработанной для игр с человеком! Как будто люди мешали компьютеру раскрыть свой истинный потенциал. Этот же метод удалось недавно обобщить: стартовав с нуля, всего за двадцать четыре часа похожая шахматная программа AlphaZero смогла одолеть самые популярные на сегодняшний день «обычные» шахматные программы, которые, в свою очередь, брали верх над лучшими шахматистами-людьми.

Прогресс не ограничивается играми. Нынешние компьютеры значительно лучше распознают изображения и синтезируют голоса. Опухоли на рентгенограммах они обнаруживают быстрее и надежнее большинства людей. Медицинская диагностика и персонализированная медицина существенно улучшаются. Поездки на беспилотных автомобилях сделают дорожный трафик безопаснее. Моему внуку, возможно, никогда не придется приобретать водительские права, потому что вождение автомобиля сделается похожим на сегодняшнее катание на лошадях – это хобби для немногих. Опасные занятия, например добыча полезных ископаемых, перейдут в ведение компьютеров, как и утомительная рутинная работа. Правительство начнет предлагать более адресные, персонализированные и эффективные государственные услуги. ИИ может произвести революцию в образовании, анализируя потребности каждого ученика и открывая возможности индивидуального обучения, дабы любой ребенок мог обучаться с оптимальной для себя скоростью.

Наряду с этими огромными преимуществами, конечно же, существует немало потенциальных рисков. При избытке личных данных в базах компьютеры будут знать о нас больше, чем мы сами; вопрос относительно того, кто владеет данными о нас, приобретет первостепенное значение. Более того, решения, основанные на данных, будут, несомненно, отражать социальные предубеждения: даже предположительно нейтральная интеллектуальная система прогнозирования кредитных рисков, скажем, способна заключить, что простая принадлежность к тому или иному социальному меньшинству повышает вероятность дефолта по кредиту. Разумеется, подобное решение легко оспорить и исправить, но реальная опасность заключается в том, что мы не всегда осознаем искажение данных и вполне можем в своем неведении с ним смириться.

Машинное обучение также может зафиксировать наши собственные предубеждения. Когда «Нетфликс» или «Амазон» пытаются посоветовать, что мы можем посмотреть или купить, это практическое следствие машинного обучения. В настоящее время такие советы порой выглядят забавно, но со временем, при увеличении обработанных данных, они станут намного точнее, будут укреплять наши предрассудки, симпатии и антипатии. Будем ли мы сожалеть о случайной встрече, которая убедила нас изменить наши взгляды, заставила взглянуть на мир иначе, внушила новые (и противоречивые) идеи? Социальные медиа, учитывая их влияние на выборы, служат особенно яркой иллюстрацией того, как можно углубить пропасть между людьми, занимающими принципиально разные концы политического спектра.