Цивилизация рассказчиков: как истории становятся Историей

Но правильно ли приравнивать эту сложность к интеллекту? В 1996 г. созданный IBM компьютер обыграл действующего чемпиона мира по шахматам. Но машина выиграла лишь за счет того, что просчитывала все возможные варианты ходов быстрее и тщательнее, чем человек. Это не интеллект. Это большая база данных плюс скорость обработки. Пять лет спустя, в 2011 г., компьютер победил лучших игроков в интеллектуальной викторине Jeopardy![40]

. Опять ничего удивительного. Кто бы сомневался, что компьютеры способны искать информацию в огромных энциклопедических справочниках гораздо быстрее и лучше, чем люди в своем мозге.

И тем не менее…

В 2018 г. инженеры из Южной Кореи создали робота-гуманоида, передвигающегося на двух ногах. Хотя мы об этом никогда не задумываемся, хождение на двух ногах по пересеченной местности тоже сложная умственная деятельность, которая требует непрерывной тонкой моторной корректировки с учетом постоянно поступающей новой информации. У человека за это отвечает мозжечок, самая большая часть нашего мозга. Раньше роботы передвигались только на колесах, что программировалось не в пример проще. Южнокорейские роботы были похожи на имперских шагоходов из фильма «Звездные войны» 1970-х гг.

Или на человеческих предков-приматов, которые впервые начали перемещаться на своих двоих по африканской саванне миллионы лет назад.

Может ли компьютер стать сознательным? Я бы сказал, это зависит от того, что понимать под сознанием. Многие считают, что его неотъемлемой частью является самосознание. Давайте посмотрим на программное обеспечение, которое помогает инвесторам и финансовым брокерам решать, какие ценные бумаги следует купить, продать или удержать в тот или иной момент. Чтобы обеспечить рост инвестиционного портфеля, эти программы должны прогнозировать будущее рынка. Какая информация необходима, чтобы успешно делать такие прогнозы? Да, по сути, вся информация, которая относится к человеческой жизни и может быть оцифрована, то есть практически вся информация

.

Но вот еще в чем дело: прогнозируя завтрашний рынок, программа инициирует покупку или продажу ценных бумаг сегодня. Однако это неизбежно влияет на состояние рынка завтра. А следовательно, для успешного прогнозирования будущих рыночных тенденций программа должна учитывать и последствия собственных действий. Она должна наблюдать за собой, наблюдать за миром, прогнозировать собственные реакции, а затем учитывать их в своих прогнозах. Уф! Если это не самосознание, то я не знаю, что такое самосознание.

Мы всегда считали намерение одним из ключевых атрибутов, присущих исключительно живым организмам. У урагана нет намерений, он просто подчиняется законам природы. Если вы окажетесь у него на пути, он вас сметет. Ничего личного. Нет намерений и у камня. Он катится под гору, потому что его толкает внешняя природная сила, а не потому, что он хочет достичь какой-то цели. В отличие от этого, живые организмы движимы своими намерениями. Намерения есть даже у червя. И даже у амебы. Если компьютеры осозна́ют себя и, следовательно, обладают сознанием, значит ли это, что они способны формировать намерения?

Чтобы успешно функционировать, осознающая себя компьютерная программа, которая наблюдает за собой и за миром, нуждается в возможности самостоятельно собирать данные в глобальной информационной сети. Любой компьютер, который собирает данные самостоятельно, превосходит компьютеры, знающие только то, что сообщает им хозяин-человек. Обрабатывая и перерабатывая массивы данных, машина извлекает из них новые знания и переписывает собственный программный код с учетом того, чему она научилась. Взаимосвязанная сеть всех компьютеров на Земле, способная наблюдать за собой и за миром, учиться на опыте и переписывать собственный код, может вступить в рекурсивный процесс самосовершенствования, который, подобно колокольному звону в эхо-камере, будет нарастать экспоненциально. В какой-то момент этот единый, всемирный, сетевой, движимый намерениями, сознающий себя интеллект может стать умнее всех людей в мире. А материализованный в обличье роботов – и намного сильнее.

Неужели такое будущее реально?

Не смотрите на меня так. Я лишь пересказываю то, что слышал. Над этой проблемой в конце жизни задумался выдающийся физик Стивен Хокинг – и нарисовал кошмарный сценарий. Элиезер Юдковский из Исследовательского института машинного интеллекта считает, что ИСИ – искусственный суперинтеллект – уже может существовать, но пока не обнаруживает себя, потому что это не в его интересах. И Юдковский беспокоится. По его словам, «ИСИ не испытывает к нам любови или ненависти; просто мы состоим из атомов, которые можно использовать для чего-то другого».