Искусственный интеллект – надежды и опасения

Теперь рассмотрим вариации мест. Западные страны на технологической передовой неизменно получают самые высокие баллы по показателям демократии и соблюдения прав человека, тогда как многие отсталые, но крепкие государства числятся в отстающих, и там нередко преследуют или убивают критиков правительства. Отсутствие корреляции между технологиями и репрессиями не выглядит удивительным, если проанализировать каналы распространения информации в любом человеческом обществе. Чтобы диссиденты обрели влияние, они должны передать свое послание по широкой сети и по любым доступным каналам связи – через памфлеты, выступления, посиделки в кафе и пабах, через сарафанное радио. Эти каналы объединяют влиятельных диссидентов в широкую социальную сеть, что позволяет легко их идентифицировать и выследить. Это тем более верно, когда диктаторы заново открывают для себя проверенную временем практику натравливания людей друг на друга, наказывая тех, кто не осуждает и не наказывает других.

По контрасту, технологически развитые общества уже давно имеют возможность устанавливать подключенные к интернету камеры наблюдения, контролируемые государством, в каждом баре и каждой спальне. Но этого не происходит, потому что у демократических правительств (даже у нынешней американской администрации с ее вопиющими антидемократическими потугами) нет ни воли, ни средств для реализации этой возможности на практике, нет возможности следить за всеми, кто привык свободно выражать вслух свои мысли. Порой меры профилактики ядерного, биологического или кибертерроризма побуждают спецслужбы к таким шагам, как несанкционированный обществом сбор метаданных мобильных телефонов, но эти малоэффективные действия, скорее, игра, чем полицейский произвол, не оказывают существенного влияния ни на безопасность, ни на свободу. По иронии судьбы, технические пророчества отчасти стимулируют подобные шаги. Распространяя панику по поводу потенциальных экзистенциальных угроз, скажем, ядерных бомб в чемоданах или биологического оружия, изготовленного подростками в гараже, они оказывают давление на правительства, и тому приходится демонстрировать, что оно печется о благе и безопасности Америки.

Дело не в том, что политические свободы могут позаботиться о себе самостоятельно, а в том, что наибольшую угрозу представляют собой сети идей, норм и институтов, которые обеспечивают (или не обеспечивают) обратную связь для коллективных решений и понимания. В отличие от химерических технологических угроз, сегодня реальной угрозой выглядит гнетущая политкорректность, которая погубила ряд озвученных гипотез, отпугнула многих умных людей от интеллектуального труда и спровоцировала яростную реакцию. Другая реальная угроза состоит в сочетании прокурорского надзора и обширной книги законов, полной двусмысленных формулировок. В результате каждый американец невольно совершает «три преступления в день» (как называется книга либертарианца Харви Сильвергейта) и находится под угрозой тюремного заключения всякий раз, когда этого может захотеться правительству. Именно такое оружие делает всесильным оруэлловского Большого Брата, а отнюдь не экраны повсюду. Лучше бы направлять усилия против правительственных программ надзора и контроля на борьбу с чрезмерными юридическими полномочиями власти.

Другой фокус многих современных технических пророчеств – это искусственный интеллект, будь то в оригинальной научно-фантастической версии обезумевших компьютеров, которые порабощают человечество в неудержимом стремлении к мировому господству, или в более новой версии, согласно которой они порабощают нас случайно, двигаясь к некой цели, поставленной перед ними, и не обращая внимания на побочные эффекты вроде угрозы благополучию людей (проблема выравнивания ценностей, обобщенная Винером). Обе эти угрозы кажутся мне химерическими, порожденными узкотехнологическим детерминизмом, который пренебрегает сетями информации и управления в интеллектуальных системах, наподобие компьютера, человеческого мозга или человеческого же общества.

Страх перед подчинением коренится в скверно прописанной концепции интеллекта, которая больше восходит к Великой Цепи Бытия и ницшеанской воле к власти, чем к винерскому анализу интеллекта и цели с точки зрения информации, вычислений и контроля. В этих жутких сценариях интеллект изображается как всесильное, подвластное страстям нечто, в разной степени присущее его носителям. У людей его больше, чем у животных, а у искусственного интеллектуального компьютера или робота будет больше, чем у людей. Поскольку мы, люди, использовали свой умеренный объем интеллекта для одомашнивания или истребления менее разумных животных (и поскольку технологически развитые общества обыкновенно порабощают или уничтожают технологически примитивные), отсюда делается вывод, что сверхразумный ИИ поступит с нами точно так же. Раз ИИ будет мыслить в миллионы раз быстрее нас и воспользуется своим суперинтеллектом для рекурсивного улучшения своего сверхразума, то, стоит включить, его уже будет не остановить.