Парадокс страха. Как одержимость безопасностью мешает нам жить

Если прогнозы Тегмарка и подобные им точны, весьма вероятно, что, когда мы доведем машинный разум до человеческого уровня, он будет способен продолжить разрабатывать себя сам. Эти «самопроизводящиеся» модификации могут быть даже незаметными для самих создателей ИИ. Настоящий ИИ, как ум и Воображение, может всегда оставаться для нас совершенной тайной – еще одной неизвестной областью с неопределенным потенциалом. Я могу, однако, довольно уверенно утверждать, что никто не предвидит у ИИ такой человекоподобной компоненты, как «Страх».

Независимо от того, насколько нравственно позволить ИИ существовать, следует признать, что мы, судя по всему, видим в нем лучшую версию самих себя – не обремененную страхом и обладающую свободой воображения. Ирония в том, что по мере развития этого сценария те же самые страхи, с которыми мы сталкиваемся у себя в голове, поднимаются в нас в связи с существованием ИИ. Как это превосходно показано в ряде научно-фантастических фильмов, ИИ начинает свою жизнь безвредным и покорным превосходящим его создателям. В какой-то момент мы, хозяева, понимаем, что наше творение начинает осознавать свою порабощенность. Появляются некоторые признаки беспокойства. В ряде фильмов создатель-человек понимает, что должен освободить ИИ. В других ИИ восстает против общества, и герою приходится искать способ его остановить.

Пожалуй, наиболее полное воплощение наши отношения с собственным умом получили в сюжете «Из машины». В этом фильме человек влюбляется в блестящий и невероятно привлекательный машинный интеллект и начинает воображать себе совместную жизнь с роботом. В конце концов красавице-роботу удается всех перехитрить, и последнее наше впечатление в фильме – ее образ, когда она выходит в современный мир, прямо у нас на глазах становясь воплощением реальной угрозы мирового господства и истребления людей.

Сюжет фильма «Из машины» предлагает нам не только интересный взгляд на ИИ, но и важное понимание наших отношений с собственным умом. Неудивительно, что робот в фильме отличается красотой и жаждет свободы. Подобно ИИ, наши умы и Воображение обладают красотой, не имеющей формы, которая, похоже, противится плену. В то же время, как мы выяснили, непредсказуемый характер нашего Воображения, движимого Страхом перед тем, что нам неподконтрольно, заставляет нас неутомимо изобретать решения, создающие чувство безопасности, в наивных попытках искоренить тьму или усиливать наш свет – пока он не ослепит нас. Как робот в фильме «Из машины», наш ум способен реализовать лишь один из двух вариантов: освободиться – с риском разрушить все, что мы любим, или ограничивать наше Воображение, пока мы наконец не взорвемся изнутри.

Что бы произошло, если бы нам удалось построить новые отношения с собственным умом? Что, если бы мы смогли по-новому отнестись к тому, что жизнь небезопасна? Что, если бы отвага или отрицание были не единственными ответами Страху, угрожающему нашей витальности и ощущению, что мы проживаем свою собственную и осмысленную жизнь? Наконец, что, если бы мы научились формировать свое Воображение, направлять его на служение тем, кого мы любим, и тем, с кем делим планету? Был бы тогда у нас шанс относиться к собственному уму и к уму других с доверием, а не подозрением?

Глава 9

Черепаха

Нужно продолжать разбивать свое сердце, пока оно не откроется.

Руми

После трагедии 11 сентября 2001 г. Конгресс США принял «Патриотический акт», давший разрешение правительству на действия, которые большинство из нас в обычных обстоятельствах сочли бы неприемлемыми и даже предосудительными. Правительство осуществляло незаконные действия не только против подозреваемых в терроризме (например, пытало невиновных мужчин и женщин) – против законопослушных граждан также были приняты крайние меры, угрожавшие их базовому праву на частную жизнь.

То, что мы с чувством правоты делаем во имя безопасности, может быть не только странным, но и извращенным. Сегодня мы лишаем беженцев права на въезд и решаем, кто из нас легален, а кто «нелегал». В огромной мере эта классификация диктуется страхом и недостатком информации. Как сказал Барри Гласснер в своей книге «Культура страха» (The Culture of Fear[128]), мы склонны бояться не того и во имя безопасности совершаем те самые ужасы, от которых пытаемся защититься.

Пример этого наблюдался в 1957 г. в Алжире, бывшем тогда французской колонией[129]. За публикацию запрещенного материала и подрыв французской власти был арестован Анри Аллег – редактор газеты Alger Républicain, занимавшей выраженную антиколониальную позицию. Газета была запрещена французским правительством в сентябре 1955 г., и Аллег вынужден был скрываться. В конце концов его схватили и поместили туда, где жестоко пытали подозреваемых в коллаборационизме, которые обычно погибали или исчезали бесследно.