Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей

Есть множество известных случаев, демонстрирующих пределы возможностей компьютерных технологий, так называемые нерешаемые задачи, для которых можно доказать невозможность построения алгоритма, всегда приводящего к правильному ответу в виде „да/нет“. Мы знаем, что наши вычислительные машины, например, удовлетворяют так называемому соответствию Карри — Ховарда, утверждающему, что между математическими доказательствами и програмами для компьютеров наблюдается структурная эквивалентность. Поэтому любое логическое ограничение относится и к компьютерам. Многие машины способны делать удивительные вещи: среди прочего, они легко выигрывают у нас в разные настольные игры: шашки, шахматы, го — и даже побеждают в викторинах! И это не предел. И все же все они — варианты машины Тьюринга, абстрактной модели, устанавливающей пределы того, что может быть сделано компьютером посредством математической логики. Квантовые компьютеры тоже ограничены пределами того, что может быть вычислено (так называемыми вычисляемыми функциями). Из машины Тьюринга не может волшебным образом появиться никакая сознательная, разумная, обладающая волей сущность.

Дело в том, что интеллектуальные технологии — благодаря огромному количеству доступных данных, очень сложным программам и возможности беспрепятственно взаимодействовать друг с другом — способны решать все больше и больше задач, причем делать это (включая прогнозирование нашего поведения) лучше нас. Поэтому мы больше не единственные возможные исполнители. Именно это я называю „четвертой революцией“ в нашем понимании самих себя. Оказалось, не мы находимся в центре Вселенной (Коперник), биологического царства (Дарвин) или царства разума (Фрейд). После Тьюринга мы больше не пребываем в центре инфосферы — мира обработки информации и умных приложений. Мы разделяем ее с цифровыми технологиями.

В решении все большего числа задач нас превосходят уже даже не дети из научной фантастики, обладающие сверхразумом, а самые обычные предметы, несмотря на то, что они не умнее тостера. Их способности заставляют нас испытывать смирение и переоценивать человеческие исключительность и особую роль во Вселенной. Мы полагали себя самыми умными, потому что можем играть в шахматы. Теперь обычный телефон играет лучше гроссмейстера. Мы думали, что свободны, потому что можем купить все, что пожелаем. Теперь глупое, как пробка, устройство может предсказать модель нашего потребительского поведения, а иногда даже предвидеть наши действия.

Что все это значит для нашего самосознания? Успех технологий во многом зависит от того, что, рассуждая о возможностях сверхразума, мы тем временем все больше наполняем мир огромным количеством устройств, датчиков, приложений и данных. В результате он становится средой, где технологии смогут заменить нас, но при этом им не потребуется какого-либо понимания, намерений, интерпретаций, эмоциональных состояний, семантических навыков, совести, самосознания или интеллектуальной гибкости (позволяющей нам, например, использовать обувь в качестве молотка, если нам нужно забить гвоздь). Память (в форме алгоритмов или гигантских наборов данных) работает лучше интеллекта, если нужно посадить самолет, найти оптимальный маршрут из дома в офис или лучшую цену на новый холодильник.

То есть умные технологии лучше справляются с простыми задачами, но не следует это путать со способностью лучше думать. Цифровые технологии не думают (не говоря уж о том, чтобы думать лучше нас). Но они могут делать лучше все больше и больше вещей, обрабатывая все большие объемы данных или отталкиваясь от результатов своих собственных расчетов ради повышения их точности в будущем (так называемое машинное обучение). Компьютерная программа AlphaGo, разработанная Google DeepMind, выиграла в игре го у лучшего игрока в мире Ли Седоля, поскольку могла использовать базу данных из примерно 30 млн ходов и сыграть тысячи игр против самой себя, каждый раз становясь немного более „умной“ и, как следствие, улучшая свою игру. Это как система с двумя ножами, которые могут затачивать сами себя. Но представьте на минуточку, что во время матча сработала бы пожарная сигнализация. Ли Седоль в ту же секунду встал бы и направился к выходу, в то время как AlphaGo продолжала бы думать над следующим ходом.

Так в чем разница? В том же, в чем между вами и посудомоечной машиной, когда вы и она моете посуду. Результат? Любой апокалиптический прогноз с участем искусственного интеллекта можно игнорировать. Серьезный риск заключается не в появлении какого-то сверхразума, а в том, что мы сами злоупотребляем цифровыми технологиями в ущерб значительной части человечества и всей планете.

Остерегайтесь людей