Просвещение продолжается. В защиту разума, науки, гуманизма и прогресса

Отказавшись от фантазий о фуме, цифровой мегаломании, мгновенном всеведении и абсолютной власти над каждой молекулой во Вселенной, мы обнаружим, что искусственный интеллект – всего лишь технология, такая же, как и все остальные. Она развивается шаг за шагом, разработана, чтобы удовлетворять множеству условий, тестируется перед внедрением и бесконечно совершенствуется с целью повышения эффективности и безопасности (глава 12). Как острит специалист по искусственному интеллекту Стюарт Рассел, «инженеры-мостостроители никогда не рассуждают о “возведении мостов, которые не падают” – только о “возведении мостов”». Точно так же «полезный и безопасный искусственный интеллект – это и есть искусственный интеллект»[879].

Искусственный интеллект, безусловно, ставит перед нами более будничные проблемы: например, что делать с людьми, чьи профессии исчезнут благодаря автоматизации. Однако профессии не исчезают быстро. Вывод, сделанный специалистами NASA еще в 1965 году, верен до сих пор: «Человек – вот самый дешевый нелинейный многоцелевой компьютер весом в 70 килограммов, который массово производится неквалифицированной рабочей силой»[880]

. Управление автомобилем – простейшая инженерная задача, куда примитивнее, чем разгрузить посудомойку, доставить документы по адресу или поменять подгузник, но на тот момент, когда я это пишу, мы все еще не готовы допустить беспилотные автомобили на улицы городов[881]. До тех пор, пока батальоны роботов не начнут прививать детей и строить школы в развивающихся странах или, если уж на то пошло, ухаживать за стариками и строить дороги на Западе, дел будет хватать на всех. Всю ту изобретательность, которая нужна для конструирования роботов и написания программного обеспечения, можно приложить и к разработке государственных мер и экономических стимулов, которые обеспечат незанятые руки несделанной работой[882]

.

~

Ну, если не роботы, тогда, может быть, хакеры? У всех на слуху их стереотипные образы: болгарские подростки, юноши в шлепанцах с банкой Red Bull в руке или, как сказал Дональд Трамп во время президентских дебатов 2016 года, «субъект, который весит 180 кило и не встает с кровати». Принято думать, что по мере развития технологий умножается и потенциал разрушения, доступный отдельному человеку. Рано или поздно одинокий очкарик, а то и террорист прямо в своем гараже соберет ядерную бомбу, создаст смертоносный вирус или обрушит интернет. А учитывая, как сильно современный мир зависит от технологий, что-то подобное может привести к панике, голоду и анархии. В 2002 году сэр Мартин Рис публично предложил пари, что «к 2020 году биопреступление или биоошибка унесет миллион жизней за раз»[883]

.

Что нам думать обо всех этих кошмарах? Иногда их цель – заставить серьезней относиться к уязвимостям систем безопасности. На этот счет есть целая теория (с которой мы еще встретимся в этой главе), что самый эффективный способ убедить людей проводить ответственную политику – напугать их до потери сознания. Верна эта теория или нет, никто не собирается утверждать, что нам можно не волноваться по поводу киберпреступлений или вспышек заболеваний, которые уже сейчас представляют собой огромную проблему для всего мира (о ядерной угрозе я поговорю в следующем разделе). Специалисты по компьютерной безопасности и эпидемиологи постоянно пытаются держать эти угрозы под контролем, и странам мира определенно не стоит жалеть на это денег. Нужно всячески повышать надежность и безопасность военной, финансовой, энергетической и коммуникационной инфраструктур[884]. Нужно крепить систему договоров о запрете биологического оружия и усиливать меры предосторожности в отношении него[885]

. Нужно расширять международные связи в области общественного здоровья, чтобы страны сообща распознавали и сдерживали вспышки заболеваний, пока они не переросли в пандемии. Наряду с новыми вакцинами, антибиотиками, противовирусными препаратами и тест-системами для моментальной диагностики, такие связи пригодятся в борьбе как с природными патогенами, так и с теми, что созданы искусственно[886]. Кроме того, государства не должны ослаблять привычные антитеррористические меры и меры по борьбе с преступностью вроде слежки и перехвата сообщений[887].

В каждой из этих гонок вооружений обороняющаяся сторона, конечно, никогда не будет абсолютно неуязвима. Нельзя исключать отдельные случаи кибертерроризма и биотерроризма, а вероятность катастрофы всегда будет ненулевой. Вопрос, на который я пытаюсь ответить: должны ли эти печальные факты подвести нас к выводу, что человечество обречено? Неужели злодеи когда-нибудь обязательно перехитрят героев и поставят цивилизацию на колени? И не стал ли наш мир парадоксальным образом по-новому уязвимым в результате технологического прогресса?