Искусственный интеллект – надежды и опасения

В последнее десятилетие генная инженерия догнала в развитии компьютерные науки и вошла в число новых научных инициатив, определяющих нашу повседневную жизнь. Генетик Джордж Черч, лидер революции в изучении и описании биологии, является ключевой фигурой этого нового ландшафта идей. Он рассматривает человеческое тело как операционную систему, а инженеры, по его мнению, должны потеснить традиционных биологов в процедурах «переоснащения» компонентов организмов (от атомов до органов), как произошло в другой отрасли знаний в конце 1970-х годов, когда инженеры-электрики прокладывали путь к первым персональным компьютерам, компонуя печатные платы, жесткие диски, мониторы и т. д. Джордж затеял и возглавил проект «Персональный геном», который, единственный в мире, предоставляет открытую информацию о генетических, экологических и поведенческих данных (GET) и может считаться «первой ласточкой» растущей индустрии исследований ДНК.

Также Джордж в немалой степени причастен к разработке основ программы BRAIN (Brain Research through Advancing Innovative Neurotechnologies – исследование мозга посредством инновационных нейротехнологий) президента Обамы (2013), ориентированной на стимулирование человеческого мышления до степени, когда для выполнения большей части повседневных задач нам не понадобится (чреватая рисками) помощь ИИ. «Возможно, некоторые проекты инициативы BRAIN позволят нам обрести сознание, лучше соответствующее нашей этике и способное к решению сложных задач, обычно относимых к области искусственного интеллекта, – говорит Джордж. – На сегодняшний день надежнее всего побудить людей к выполнению все тех задач, которые они хотели бы поручить машинам, но мы пока не спешим встать на эту дорогу к безопасному будущему».

Средства массовой информации, писавшие о прорывах в генной инженерии, почему-то в целом проигнорировали недавнее, крайне важное и новаторское достижение Джорджа: он использовал локус CRISPR[186] (а также методики, более совершенные, чем локусы CRISPR) для редактирования геномов человеческих клеток.

Отношение Джорджа к будущим формам общего искусственного интеллекта в целом позитивно, о чем свидетельствует и очерк ниже. При этом он никогда не упускает из вида проблему безопасности ИИ. Процитирую его замечание по этому поводу: «На мой взгляд, главный риск ИИ заключается не столько в том, сможем ли мы математически понять, о чем он думает, сколько в том, способны ли мы научить машину этическому поведению. Ведь мы едва способны научить такому поведению друг друга».

В 1950 году Норберт Винер в книге «Человеческое применение человеческих существ» проявил удивительную прозорливость, предупредив, что

…подобная джинну машина, способная к обучению и принятию решений на базе этого обучения, никоим образом не окажется обязанной принимать те решения, какие приняли бы мы сами или какие были бы приемлемыми для нас… Доверяем ли мы наши решения машинам из металла или тем машинам из плоти и крови, которые организуются в бюро, крупные лаборатории, армии и корпорации… Час почти пробил, выбор между добром и злом стоит у нашего порога.

Таков был главный посыл его книги, и шестьдесят восемь лет мы жили с этим ощущением, не располагая ни рецептами спасения, ни запретами, ни даже четко сформулированной «постановкой проблемы». С тех пор мы неоднократно слышали предупреждения об угрозе со стороны машин, даже адаптированные под широкие массы; вспомним такие фильмы, как «Колосс: проект Форбина» (1970), «Терминатор» (1984), «Матрица» (1999) и «Из машины» (2015)[187]

. Но наконец настала пора серьезно обновить наши воззрения и рассмотреть новые перспективы – в особенности обобщить наши «человеческие» права и экзистенциальные потребности.

Общественная обеспокоенность проявляется обычно в противопоставлении «их [роботов] и нас», а также в страхе перед «серой слизью [нанотехнологии]» или перед «монокультурными клонами [биотехнологии]». Экстраполируем текущие тренды: а что произойдет, окажись мы в состоянии вырастить или сотворить почти что угодно и добиться любого желаемого уровня безопасности и эффективности? Любое мыслящее существо (состоящее из атомов) обретет тогда доступ ко всем технологиям.

Вероятно, нам следует меньше беспокоиться о противостоянии с «ними» и больше – о правах всех разумных на фоне возникающего беспрецедентного разнообразия разумов. Мы должны использовать это разнообразие для минимизации глобальных экзистенциальных рисков, будь то извержение супервулкана или прилет астероида.