Искусственный интеллект – надежды и опасения

Давайте попробуем взглянуть шире. Сегодня западную цивилизацию шокируют истории родителей, которые мучают и убивают своих детей за то, что те не следуют, как полагается, исконным культурным нормам. Шок еще сильнее, когда мы сталкиваемся с обществами и субкультурами, где подобное в порядке вещей, а убийства фактически узаконены. Или с диктатурами и тоталитарными государствами, которые преследуют и истребляют целые группы, вся вина которых в том, что они ведут себя иначе. Мы стыдимся своего недавнего прошлого, когда считалось нормой избивать детей до крови за элементарное непослушание. А раньше того было принято владеть другими людьми как рабами. А еще людей сжигали на кострах за приверженность иной вере – на потеху публике. В книге Стивена Пинкера «Лучшие ангелы нашей природы» приводится немало описаний жутких ритуалов, обыденных для исторических цивилизаций. Но даже эти ритуалы не справились с обузданием стремления к инновациям столь же эффективно, как наши предки в незапамятные доисторические времена [105]

.

Вот почему я утверждаю, что доисторические люди по большому счету были не совсем людьми. Как до, так и после того, как сделались людьми физиологически и по своему интеллектуальному потенциалу, они оставались чудовищно бесчеловечными в реальном содержании своих мыслей. Речь не о преступлениях и даже жестокости как таковой: это все слишком человеческие черты. Да и обыкновенная жестокость вряд ли расправилась бы с прогрессом так эффективно. Изобретения наподобие «винта и кола к вящей славе Божьей»[106]

предназначались для укрощения немногих девиантов, которые каким-то образом избежали ментальной стандартизации, которая, как правило, начинала сказываться задолго до возникновения ересей. С первых дней мышления дети, вероятно, сыпали как из мешка творческими идеями и являли образцы критического мышления – иначе, как я сказал, они не могли бы выучить язык и освоить прочие формы сложной культуры. Но все же, как подчеркивает Якоб Броновски[107]

в «Возвышении человека»:

«На протяжении большей части истории цивилизации грубо игнорировали этот огромный потенциал… От детей просто требовали соответствовать поведению взрослых… Девочки – маленькие будущие матери, мальчики – маленькие будущие пастухи. Они даже внешне подражали родителям».

Конечно, от детей не просто «требовали» игнорировать огромный природный потенциал и добросовестно соответствовать образцам, закрепленным традицией; им каким-то образом прививали психологическую неспособность отклоняться от образцов. Сегодня нам трудно даже вообразить это постоянное, точно «настроенное» угнетение, необходимое для надежного подавления стремления к прогрессу и внушения страха и отвращения по отношению к любому новому поведению. В такой культуре не может быть иной морали, кроме конформизма и послушания, иной идентичности, кроме статуса в иерархии, иных механизмов сотрудничества, кроме наказания и вознаграждения. Так что каждый разделял общие стремления – избегать наказаний и добиваться наград. В типичном поколении никто ничего не изобретал, поскольку никто не искал чего-то нового, ведь все уже отчаялись дождаться возможных улучшений. Не было не только никаких технологических инноваций или теоретических открытий, но и новых мировоззрений, стилей искусства и интересов, способных вдохновить. К тому времени, когда люди вырастали, они фактически превращались в ИИ, запрограммированный на выполнение навыков, необходимых для применения этой статической культуры и навязывания следующему поколению своей неспособности хотя бы задуматься о том, чтобы поступить иначе.

Современный ИИ не является умственно отсталым ОИИ, поэтому на нем нисколько не скажется, если его ментальные процессы принудительно сузят ради соответствия каким-то заданным критериям. «Угнетать» Сири унизительными задачами довольно странно, но это не аморально и не навредит Сири. Напротив, все усилия, которые когда-либо предпринимались для расширения возможностей ИИ, были направлены на сужение диапазона потенциальных «мыслей». Возьмем, к примеру, шахматные машины. Их основная задача не менялась изначально: любая шахматная позиция имеет конечное дерево возможных продолжений; задача состоит в том, чтобы отыскать комбинацию, ведущую к предопределенной цели (победа, поражение или ничья). Но дерево слишком велико для исчерпывающего поиска. Каждое усовершенствование искусственного интеллекта в шахматной игре, от первого проекта Алана Тьюринга в 1948 году и вплоть до сегодняшнего дня, опиралось на изобретательное ограничение возможностей программы (или принуждение к ограничению) за счет все более тщательного прописывания путей, способных привести к неизменной цели. А после уточнения эти пути оцениваются в соответствии с заданной целью.