Всё об искусственном интеллекте за 60 минут

Не все с оптимизмом смотрят на преимущества ОИИ. Некоторые футурологи, философы и писатели-фантасты делают пугающие прогнозы о том, куда в конечном итоге нас может привести эта технология. Они утверждают, что, как только ИИ станет достаточно умным, чтобы разрабатывать себе подобных, появится петля положительной обратной связи: умный ИИ сможет создать еще более умного ИИ, который в свою очередь создаст еще более умного ИИ, и так далее. Такого рода аргументы опираются на закон Мура, который гласит, что число транзисторов в микросхеме удваивается примерно каждые два года (а скорость процессоров удваивается каждые 18 месяцев). Сторонники этой идеи полагают, что экспоненциальное увеличение скорости компьютеров неизбежно приведет к появлению суперинтеллекта. Однажды, считают они, мы достигнем «технологической сингулярности[18]» – когда рост подобных ИИ станет неуправляемым, что приведет к потенциальной катастрофе для человечества.

Я установил дату сингулярности, когда произойдет глубокая и разрушительная трансформация человеческих возможностей, – 2045 год. Созданный в этот год небиологический интеллект окажется в миллиард раз мощнее, чем весь человеческий интеллект сегодня.

РЭЙМОНД КУРЦВЕЙЛ (2005)

За развитием подобных сюжетов интересно наблюдать в научно-фантастических фильмах и книгах, но в реальном мире их следует воспринимать как ложку дегтя. Развитие технологии ИИ выиграло от увеличения вычислительной мощности и доступности бóльших наборов данных для тренировки алгоритмов машинного обучения. Но успехи в области ИИ всегда связаны с улучшением алгоритмов, а не с частотой процессора. (И ночи ИИ обусловлены разочарованиями – тем, что алгоритмы не оправдали надежды.) Каждый алгоритм предоставляет захватывающие новые возможности, но ни один из них не решит всех проблем. Новые проблемы требуют новых алгоритмов для их решения (так же, как различные задачи, которые мы выполняем, задействуют разные области нашего мозга), а темпы инноваций ограничены нашими способностями и нашим уровнем понимания природы интеллекта.

Было бы замечательно, если бы мы могли пойти коротким путем и позволили бы компьютерам разрабатывать самих себя. Однако, несмотря на такие методы, как генетическое программирование, мы отчаянно стараемся заставить компьютеры разрабатывать более совершенные алгоритмы. Сегодня тысячи ученых используют самые современные компьютеры в попытках создать ИИ. Если мы изо всех сил пытаемся создать разум, почему же наши значительно менее умные ИИ будут лучше нас?

Нам не помогает даже экспоненциальный рост. Более того, он оборачивается не в нашу пользу. Каждый раз, когда мы пытаемся сделать ИИ чуть-чуть умнее, мы экспоненциально увеличиваем его возможности. Это дает экспоненциально больше шансов на провал, поэтому мы должны существенно умножить количество тестов и экспериментов, чтобы убедиться в правильности конструкций. В конечном счете данные, полученные в результате исследований ИИ, показывают, что бóльшие возможности означают более медленное развитие. Из физики мы знаем, что для достижения прогресса требуется все больше и больше энергии, как и при достижении скорости, более близкой к скорости света. Нечто подобное, похоже, происходит при создании интеллекта: становится все труднее увеличивать его возможности. Пожалуй, не случайно, что на планете Земля очень мало существ со столь же сложным мозгом, как наш, и что для их создания потребовалось 3,5 миллиарда лет эволюционных экспериментов.

Мы можем быть уверены: не будет никаких сингулярностей, вышедших из-под контроля ИИ. Наши преданные и трудолюбивые ученые и инженеры продолжат свои исследования, медленно изобретая новые алгоритмы и предоставляя ИИ полезные инструменты, чтобы сделать нашу жизнь более безопасной и легкой. Возможно, мы никогда не создадим ИИ, соответствующий по уровню продвинутости человеческому мозгу. Или это может занять у нас невообразимо много времени.

Будущее ИИ