Искусственный интеллект – надежды и опасения

Какие объекты обладают разумом, целеполаганием, предназначением? Прямо сейчас нам известен всего один ответ на этот вопрос – мы сами, наш мозг, наш человеческий разум. Человеческий интеллект, как я однажды предположил, намного превосходит все, что возникло в мироздании естественным образом; это результат сложного процесса эволюции, в силу чего он отделен от всего остального. Но благодаря науке, которой занимаюсь, я понял, что ошибался.

Например, люди могут сказать: «У погоды собственное разумение». Это анимистическое допущение, которому как будто не место в современном научном мышлении. Но оно вовсе не так нелепо, как может показаться. Что делает человеческий мозг? Он получает определенные сигналы, вычисляет, побуждает организм к неким действиям, генерирует достижение неких результатов. Прямо как погода. Любые разновидности систем так или иначе эффективно выполняют вычисления – будь то мозг или, скажем, облако, реагирующее на термальную среду.

Мы можем возразить, что наш мозг выполняет гораздо более сложные вычисления, чем «атмосферное» сознание. Но выяснилось, что имеется принципиальное сходство между типами вычислений в разных системах. Вследствие чего тезис об уникальности человека стоит пересмотреть, ибо, похоже, мы не такие уж особенные, как нам казалось. В природе полным-полно всевозможных систем, которые в значительной степени тождественны с точки зрения вычислительных возможностей.

От всех прочих систем нас отличают особенности нашей истории, которые наделяют человечество ощущением предназначения и целями. Если коротко, то коробка на нашем столе может мыслить, подобно человеку, но она лишена каких бы то ни было целей. Последние определяются нашими особыми признаками – нашей биологией, нашей психологией, нашей культурной историей.

При обсуждении будущего ИИ нужно думать о целях. Именно в них заключается вклад человечества и вклад цивилизации. Мы способны и должны автоматизировать реализацию целей. Каково будущее людей в таком мире? Чем им предстоит заняться? Суть одного моего проекта как раз и сводилась к постижению эволюции человеческих целей в перспективе. Сегодня мы располагаем всевозможными целями. А если вернуться на тысячу лет назад, цели были совсем другими: как добыть еду? как надежно обеспечить безопасность? В современном западном мире мы по большей части уже не тратим львиную долю жизни на размышления об этих целях. При взгляде из прошлого некоторые цели, формулируемые сегодня, наверняка покажутся, мягко говоря, странными (скажем, беговые тренировки – тысячу лет назад это была полнейшая нелепица).

Итак, чем люди займутся в будущем? Многие цели наших дней возникают вследствие дефицита того или иного рода. В мире мало ресурсов. Люди хотят получать больше того-то и того-то. В нашей жизни мало времени. Постепенно эти формы дефицита исчезнут. Несомненно, самым драматическим достижением будет фактическое обретение человечеством бессмертия. Придем ли мы к нему биологически или через «цифру», сказать сложно, однако рано или поздно это случится. Многие наши текущие цели частично обуславливаются нашей смертностью: «Мне суждено прожить лишь короткий срок, потому надо сделать то-то и то-то». Но что произойдет, когда большинство наших целей будет реализовываться автоматически? Мы лишимся той мотивации, которая движет нами сегодня. Очень хотелось бы узнать ответ на следующий вопрос: к чему в конце концов придут в будущем «производные» людей? Не исключено, кстати, что они станут коротать время за какими-то аналогами нынешних видеоигр.

* * *

Значение термина «искусственный интеллект» уточняется за счет употребления в техническом жаргоне. Сегодня тема ИИ весьма популярна, и люди имеют некоторое представление о том, что это такое. А когда в 1940-х и 1950-х годах разрабатывались первые машины, типичное название книги или журнальной статьи о компьютерах гласило: «Гигантский электронный мозг». Считалось, что, как бульдозеры, паровые двигатели и пр. автоматизировали ручной труд, так и компьютеры автоматизируют труд интеллектуальный. Но пообещать, к удивлению многих, оказалось проще, чем сделать. Первоначально наблюдался изрядный оптимизм; государственные средства обильно тратились на исследования в 1960-х годах. Подчеркну – тратились впустую.

В фантастических фильмах того времени много забавных представлений о компьютерах. Например, симпатичный агрегат по имени Desk Set, по сути, IBM-совместимый компьютер, который устанавливают в вещательной компании – и который оставляет всех без работы[230]. Забавно то, что этому компьютеру задают кучу справочных вопросов. Когда мы с коллегами создавали систему WolframAlpha, то хотели, в частности, чтобы она эффективно отвечала на те справочные вопросы, которые когда-то задавались модели Desk Set. К 2009 году наша система могла ответить на все.