Искусственный интеллект – надежды и опасения

Норберт Винер опередил свое время, рассуждая о потенциальной опасности проектируемых интеллектуальных машин. Полагаю, он предвидел намного дальше, заявляя, что первые системы искусственного интеллекта уже создаются в действительности. Он был прав, характеризуя корпорации и бюро – «машины из плоти и крови», по его определению, – как первые интеллектуальные системы. Он справедливо предупреждал об угрозе появления искусственного суперинтеллекта, цели которого вовсе не обязательно будут совпадать с нашими собственными.

Ныне очевидно – и не имеет значения, понимал это Винер или нет, – что организационные сверхразумы состоят не только из людей; они представляют собой гибриды людей и информационных технологий, позволяющих людям координировать свои действия. Даже во времена Винера «бюро, крупные лаборатории, армии и корпорации» не могли действовать без телефонов, телеграфа, радио и счетно-аналитических машин. Сегодня они не могут функционировать без компьютерных систем, баз данных и систем поддержки принятия решений. Эти гибридные интеллекты представляют собой технологически расширенные сети людей. Такой искусственный интеллект обладает сверхчеловеческими способностями. Он знает больше, чем каждый человек по отдельности, он способен лучше ощущать происходящее вокруг, он гораздо мощнее в выполнении комплексного анализа и составлении сложных планов. Наконец, ему доступно куда больше ресурсов и власти, чем любому отдельно взятому человеку.

Мы далеко не всегда осознаем, что гибридные суперинтеллекты наподобие национальных государств и транснациональных корпораций ставят собственные цели. Будучи созданы людьми и для людей, они нередко действуют как независимые разумные существа, и эти действия далеко не всегда соответствуют интересам людей, которые создавали эти государства и корпорации. Государство не обязательно заботится о благе граждан, а корпорация не обязательно радеет о благополучии акционеров. То же самое касается некоммерческих организаций, религиозных орденов и политических партий – все они не обязательно руководствуются в практической деятельности своими основополагающими принципами. Интуитивно мы осознаем, что их действия определяются некими внутренними целями, потому-то и принято персонифицировать эти сущности юридически и ментально. Употребляя выражения вроде «этого хочет Китай» или «к этому стремится Дженерал моторс», мы вовсе не изъясняемся метафорами. Упомянутые сущности действуют интеллектуально, они воспринимают мир, принимают решения и их выполняют. Подобно целям индивидов, цели организаций сложны и зачастую противоречивы, но это истинные цели – в том смысле, что они руководят действиями. Да, указанные цели формируются людьми, состоящими в организации, но они не идентичны человеческим целям.

Любому американцу известно, сколь слаба связь между действиями правительства США и разнообразными, зачастую противоречивыми целями граждан страны. То же самое верно для корпораций. Коммерческие организации номинально служат благу множества групп, включая сюда акционеров, топ-менеджеров, сотрудников и клиентов. Эти корпорации отличаются друг от друга способами «примирения» разных лояльностей и часто ведут себя так, чтобы не служить никому из своих благополучателей. «Нейронами», передающими корпоративную мысль, выступают не только сотрудники и технологии, их связывающие; мысль также кодируется в политике компании, принципах стимулирования, организационной культуре и процедурах принятия решений. Новые корпоративные цели не всегда отражают ценности людей, которые их реализуют. Например, некая нефтяная компания под началом и со штатом людей, заботящихся об окружающей среде, может обладать такими стимулами и такой политикой, которые побуждают ее ставить под угрозу экологическую безопасность ради извлечения прибыли. Благие намерения составляющих системы не являются гарантией правильного (благого) поведения системы в целом.

Правительства и корпорации, частично состоящие из людей, «от природы» мотивированы хотя бы отражать и выражать цели людей, от которых они зависят. Они не могут функционировать без людей, поэтому им приходится обеспечивать и поддерживать сотрудничество с людьми. Когда такие организации ведут себя альтруистически, это часто объясняется их базовой мотивацией. Однажды я похвалил генерального директора крупной корпорации за вклад его компании в оказание гуманитарной помощи. Генеральный директор ответил без малейшей иронии: «Да. Мы решили поступать так почаще, чтобы наш бренд сделался более привлекательным». Индивиды, образующие гибридный суперинтеллект, могут порой оказывать на него «гуманизирующее» влияние: например, сотрудник может нарушать политику компании, чтобы помочь другому человеку. Этот сотрудник может проявлять подлинное человеческое сострадание, но мы не должны приписывать подобные ощущения самому суперинтеллекту. Эти гибридные машины ставят собственные цели, а граждане / клиенты / сотрудники суть всего-навсего ресурс, которые они используют для достижения этих целей.