Искусственный интеллект – надежды и опасения

Техническое пророчество Винера побуждает вспомнить романтическое восстание против «угрюмых сатанинских мельниц» промышленной революции и, возможно, даже более ранние примеры – судьбу Прометея, Пандоры и Фауста. Сегодня же оно звучит особенно остро. Многочисленные Иеремии (сам Винер, например) от науки и техники бьют тревогу по поводу нанотехнологий, генной инженерии, больших данных и, прежде всего, искусственного интеллекта. Ряд авторов настоящего сборника характеризуют книгу Винера как яркий пример технического пророчества и стараются превзойти своего предшественника в живописании грядущих ужасов.

Тем не менее две моральные темы «Человеческого применения человеческих существ» – либеральная защита открытого общества и дистопийный страх перед разгулом технологий – остаются вполне актуальными. Общество с каналами обратной связи, максимизирующее человеческое процветание, будет располагать нужными механизмами и сможет адаптировать их к изменяющимся обстоятельствам таким образом, чтобы они приспосабливали технологии к человеческим целям. Здесь нет ничего идеалистического или мистического; как подчеркивал Винер, идеи, нормы и институты сами по себе суть технологии, фрагменты информации, распределенные в сознании. Вероятность того, что машины принесут с собой новый фашизм, следует сопоставить с ценностью либеральных идей, институтов и норм, отстаиваемых Винером на протяжении всей книги. Проблема современных антиутопических пророчеств состоит в том, что они игнорируют существование этих норм и институтов или сильно недооценивают их каузальную силу. В результате возникает технологический детерминизм, чьи мрачные предсказания неоднократно опровергались реальным ходом событий. Цифры «1984» и «2001» могут служить наглядными примерами[94]

.

Рассмотрим два случая. Технические пророки нередко предупреждают о «всевидящем оке»: дескать, правительство, располагающее нужными технологиями, будет отслеживать и контролировать всю частную переписку ради выявления инакомыслия и подрывной деятельности, тем самым препятствуя сопротивлению государственной власти. Сразу вспоминаются оруэлловские экраны; недаром еще в 1976 году Джозеф Вейценбаум, один из мрачнейших технических пророков всех времен, советовал моим студентам не заниматься автоматическим распознаванием речи, поскольку единственным мыслимым применением этой технологии является государственное «всевидящее око».

Считая себя убежденным либертарианцем, которого сильно беспокоят нынешние угрозы свободе слова, я не теряю сон из-за технологических достижений, будь то интернет, видео или искусственный интеллект. Дело в том, что почти все различия в свободе мысли во времени и пространстве обусловлены различиями в нормах и институтах, они почти никак не определяются различиями в технологиях. Безусловно, можно вообразить гипотетическое сочетание злобных тоталитаристов и передовых технологий, но в реальном мире мы должны бдительно следить за нормами и законами, а не за технологиями.

Рассмотрим изменения во времени. Если, как намекал Оруэлл, прогрессирующие технологии действительно являются основным фактором стимулирования политических репрессий, то западные общества становились бы все более и более сдержанными в свободе слова на протяжении столетий, причем резкое ухудшение наблюдалось бы во второй половине XX столетия и в XXI веке. Но история развивалась иначе. Именно тогда, когда коммуникация осуществлялась перьями и чернильницами, происходили аутодафе, а мыслителей сажали в тюрьму или под нож гильотины. В годы Первой мировой войны, когда вошел в моду телеграф, Бертрана Рассела посадили под замок за публичное выражение пацифистских взглядов. В 1950-е годы, когда компьютеры занимали целые помещения, сотни либеральных писателей и ученых страдали от преследований. В нашем же технологически развитом и гиперсвязанном XXI веке 18 процентов профессоров социальных наук привержены марксизму[95]; телевизионные комики вечерами высмеивают президента Соединенных Штатов Америки как расиста, извращенца и недалекого деревенщину; а главная угроза со стороны технологий для политического дискурса заключается в трансляции слишком большого количества сомнительных заявлений, а не в подавлении просвещенных умов.