Искусственный интеллект – надежды и опасения

Норберт Винер объяснял идеи, нормы и институты с точки зрения вычислительных и кибернетических процессов, понятные для науки и каузально мощные. Он характеризовал человеческие красоту и ценность как факторы, которые встречаются «только локально и временно, в противостоянии с Ниагарским водопадом возрастающей энтропии», и выражал надежду, что открытое общество, руководствуясь обратной связью от человеческого благополучия, сможет наращивать эту ценность. К счастью, его вера в каузальную силу идей способствовала тому, что он меньше беспокоился об угрозе со стороны новых технологий. По его словам, «опасность автоматизации для общества исходит не от самой машины, а от ее применения человеком». Лишь памятуя о каузальной силе идей, мы в состоянии точно оценить угрозы и возможности, которые сулит современный искусственный интеллект.

Глава 11

Награды и наказания – что дальше?

Дэвид Дойч

квантовый физик, сотрудник Центра квантовых вычислений при лаборатории Кларендона в Оксфордском университете, автор книг «Ткани реальности» и «Начало бесконечности».

Наиболее значимые события в сегодняшней науке (то есть те, которые оказывают влияние на жизнь всех людей на планете) связаны с достижениями в области программного обеспечения и вычислений, основаны на них или реализуются с их использованием. Ключевой фигурой для будущего этих разработок является физик Дэвид Дойч, пионер в области квантовых вычислений, чья статья 1985 года об универсальных квантовых компьютерах оказалась революционной и впервые познакомила публику с этой дисциплиной; алгоритм Дойча – Йожи [98]стал первым квантовым алгоритмом и продемонстрировал колоссальную потенциальную мощь квантовых вычислений.

Когда Дэвид начал рассуждать на эту тему, квантовые вычисления казались практически невозможными. Но прорыв в разработке простых квантовых компьютеров и квантовых систем связи никогда не случился бы без его работ. Он также внес важный вклад в развитие таких областей, как квантовая криптография и многомировая интерпретация квантовой механики. В философской статье, написанной совместно с Артуром Экертом[99]

, он обосновывает полезность отдельной квантовой теории вычислений и доказывает, что наши знания математики опираются на знание физики и определяются последним (хотя математические истины не зависят от физики).

Поскольку значительную часть своей карьеры Дэвид занимался тем, что менял мировоззрение людей, репутацию интеллектуала среди коллег он заслужил и укрепил не только своими научными достижениями. Он утверждает (вслед за Карлом Поппером), что научные теории суть «смелые предположения», не основанные на доказательствах, а проверяемые ими. Два основных направления его исследований в настоящее время – это теория поля кубитов[100] и конструкторская теория – вполне приложимы к идее вычислений и могут послужить ее важными дополнениями.

В очерке ниже Дэвид в целом присоединяется к тем, кто видит в искусственном интеллекте человеческого уровня провозвестие лучшего мира, а не Апокалипсиса. На самом деле он фактически требует создания ОИИ со свободой действий, и такое стремление ряд других авторов настоящего сборника сочли бы опасным заблуждением.

Первый убийцаНет, мы люди.

МакбетО да, людьми вас числят в общем списке,Как гончих, мопсов, пуделей, овчарок,Борзых и шавок – всех равно зовут

Собаками… [101]Уильям Шекспир. «Макбет»

На протяжении большей части истории человеческого вида наши предки едва ли могли считаться людьми. Дело не в какой-то ущербности их мозга. Напротив, даже до появления анатомически современного человеческого подвида они изготавливали вещи, например одежду, и разводили костры, используя знания, отнюдь не заложенные в их генах. К этому они пришли через мышление и передавали опыт из поколения в поколение, младшие подражали старшим. Более того, это должно было быть знание в смысле понимания, поскольку невозможно подражать новому комплексному поведению вроде обозначенного выше, не понимая, что означают его составные элементы[102].

Такая «осведомленная» имитация зависит от успешного угадывания объяснений, словесных и прочих, связанных с пожеланиями и устремлениями другого, а также того, как соотносится с сутью объяснения каждое его действие – например, когда он прорезает паз в дереве, собирает хворост на растопку и т. д.