Тайна двух реликвий

…а угроза эта исходит от искусственного интеллекта. Число параметров нейронных сетей каждый год увеличивается на порядок и уже намного превысило десять миллиардов. Объём вычислений, используемых ими для тренировки, каждые три месяца возрастает вдвое.

Что это? Сверхстремительное развитие искусственного интеллекта и закат человеческой цивилизации – или движение процесса по инерции? Ведь количественные показатели нейросетей растут намного быстрее качества, и до появления универсального искусственного разума пока ещё далеко.

– А чем так страшен или хорош этот нечеловеческий разум? – спросил модератор и сам же ответил: – Тем, что он или уничтожит нас, или сделает бессмертными. И на этой мажорной ноте я передаю слово учёным.

31. Про человеческие взгляды на нечеловеческое

Сходство сцены с боксёрским рингом провоцировало спикеров, но встреча Бориса и Дилана Мэя не превратилась в интеллектуальный мордобой. Это был взаимно уважительный обмен мнениями на заявленную тему, разве что мнения противоречили друг другу, а Борис выступал намного более эмоционально, чем его именитый собеседник.

Поначалу разногласий было немного. Спикеры рассуждали о том, что искусственный интеллект способен решать задачи колоссального масштаба. У человечества благодаря новым технологиям и возможностям есть два пути: либо эволюция, либо глобальная катастрофа по тому или иному сценарию. Путь, который будет избран, зависит от того, кому удастся оседлать технологическую сингулярность.

– Давайте вспомним, что в доиндустриальных обществах рост населения и его потребностей опережали рост производства продуктов, – говорил Мэй. – Этот феномен получил название мальтузианской ловушки. Но современный прогресс оставляет нам некоторые надежды…

– Давайте представим, что прогресс остановился, – рассуждал Борис. – Новые технологии больше не появляются и не позволяют разрабатывать новые ресурсы. А имеющиеся ресурсы конечны, и существующие технологии исчерпают их за сто лет. На безнадёжно загрязнённой планете наступит коллапс…

– Остановить прогресс невозможно, – говорил Мэй, – его можно разве что сориентировать. Поскольку человек желает управлять информацией, веществом и природой, прогресс движется в направлениях развития искусственного интеллекта, нанотехнологий и биотехнологий. Неуклюжие действия в любой из этих трёх областей способны заметно ускорить печальный конец человечества. Про создание новых материалов с новыми свойствами или попытки продления человеческой жизни я знаю не так много. Зато насчёт искусственного интеллекта за последние лет шестьдесят у меня накопились кое-какие соображения. Надеюсь, они покажутся вам интересными…

– Я достаточно долго участвую в разработках искусственного интеллекта и без ложной скромности говорю о блестящих успехах в этой области, – заявил Борис. – Простой пример: в течение короткого времени компьютерные программы научились обыгрывать чемпионов мира не только в шахматы, но и в китайские шашки го, которые намного сложнее шахмат. Почему это так важно? Потому что принятие эффективных стратегических решений невозможно запрограммировать – его можно только натренировать. Искусственный интеллект играл сам с собой, анализировал ошибки и совершенствовал алгоритмы. Бессчётное число сыгранных партий сделало уровень мастерства программы недосягаемым для человека. То же касается и множества других областей, где искусственный интеллект вчистую выигрывает у человеческого…

– По моему скромному мнению, есть разница между мастерством и перебором вариантов, – парировал Мэй. – Здесь узкоспециальная компьютерная программа превосходит способности человека. Но это ничего не говорит о превосходстве искусственного интеллекта над человеческим. Это соревнование в примитивных комбинаторных решениях. Программу для игры в крестики-нолики я написал на первом курсе, когда большинства из присутствующих в зале ещё на свете не было. А сейчас, если уж на то пошло, надо сперва определиться с терминами. О чём вообще у нас идёт речь?

Борис не почувствовал подвоха.

– Охотно напомню, что термин искусственный интеллект в тысяча девятьсот пятьдесят шестом году предложил Джон Маккарти, – сказал он. – А интеллектуальную функцию он определял как вычислительную составляющую способности достигать целей. То есть речь у нас идёт про создание интеллектуальных компьютерных программ.

Не переставая улыбаться, Мэй поблагодарил Бориса за справку и заметил:

– Я имел в виду несколько другое. С компьютерными программами как раз всё довольно просто. Алан Тьюринг придумал свой тест в пятидесятом году – ещё до появления термина искусственный интеллект. Как все здесь, без сомнения, помнят, тест Тьюринга проверяет, разумен ли компьютер. Вернее, он позволяет определить, насколько успешно компьютер при помощи заложенной в него программы имитирует человеческое мышление…