Искусственный интеллект – надежды и опасения

Если вы потеряете свои ключи в комнате, их можно поискать. Если вы не уверены, в какой конкретно комнате они находятся, придется обойти все комнаты в доме. Если вы не уверены, в каком доме оставили ключи, придется обыскивать все помещения во всех зданиях города. Если вы сомневаетесь насчет города, вам предстоит обыскать все комнаты во всех зданиях во всех городах. В области ИИ такому поиску ключей соответствует беспилотный автомобиль, безопасно двигающийся по дороге общего пользования, или компьютер, правильно интерпретирующий устную команду, а комнаты, здания и города соответствуют всем вариантам, которые необходимо учитывать при программировании. Это так называемое проклятие размерности.

Избавиться от проклятия размерности помогает использование информации о задаче для ограничения условий поиска. Сами алгоритмы поиска не новы. Но применительно к сетям глубинного обучения они адаптируются в ходе работы и позволяют машине понять, где эффективнее искать ответ. Правда, теперь уже невозможно гарантированно дать заведомо лучший ответ – но, как правило, лучшего и не требуется, вполне достаточно хорошего.

С учетом сказанного выше не должно удивлять, что эти правила масштабирования позволили машинам повысить свою эффективность до уровня, сопоставимого с эффективностью соответствующих биологических систем. Нейронные сети создавались изначально для моделирования работы человеческого мозга. От этой цели отказались, поскольку модели превратились в математические абстракции, совершенно не связанные с реальным функционированием нейронов. Зато наметилась своего рода конвергенция, этакая проективная биология (а не биология реинжиниринга), поскольку в результате глубинного обучения мы как бы получаем картинку слоев и областей мозга.

Один из наиболее сложных исследовательских проектов, которым мне довелось руководить, предусматривал сотрудничество тех, кого сегодня называют аналитиками данных, с пионерами ИИ. Это был печальный опыт рассогласования целей. Первая группа успешно справлялась с застарелыми проблемами, выявленными когда-то второй, но это не признавалось достижением, поскольку не наблюдалось соответствующих прорывов в понимании принятых решений. Какова ценность шахматного компьютера, если вы не можете объяснить, как он играет в шахматы?

Ответ, конечно, гласит, что он умеет играть в шахматы. Тут возникает перспектива любопытного исследования о применимости ИИ к ИИ, то есть к обучению нейронных сетей, для объяснения того, как они работают. Но деятельность мозга и компьютерного чипа трудно понять из простого наблюдения за их работой; намного легче интерпретировать эту деятельность по наблюдению за их внешними интерфейсами. Мы доверяем (или нет) мозгу и компьютерным чипам, основываясь на опыте, который их проверяет, а не на объяснениях того, как они работают.

Многие отрасли инженерии переходят от так называемого императивного к декларативному, или генеративному дизайну. Это означает, что вместо прямого проектирования системы с помощью инструментов наподобие САПР, принципиальных схем и компьютерного кода, вы описываете свои пожелания к системе, а затем выполняется автоматический поиск модулей, удовлетворяющих вашим целям и ограничениям. Такой подход становится необходимостью, поскольку сложность проектирования все чаще превышает возможности проектировщика. Да, это может показаться рискованным, но человеческое понимание имеет свои пределы; в истории инженерного дела полным-полно примеров мнимого хорошего понимания, которое обернулось дурными последствиями. Декларативное проектирование учитывает все новейшие достижения в области искусственного интеллекта, а также точность моделирования, свойственную виртуальным тестовым вариантам.

Мать всех проблем проектирования – та самая проблема, итогом решения которой являемся мы с вами. Наша конструкция «записана» в одной из старейших и наиболее консервативных частей генома, в так называемых генах Hox[134]. Это гены, которые регулируют другие гены посредством так называемых программ развития. В нашем геноме нет дизайна телосложения; скорее, геном хранит последовательность шагов, выполнение которых наделяет нас тем или иным телом. Налицо точная параллель с поиском в области ИИ. Имеется слишком много потенциальных схем кузова для поиска, причем большинство модификаций окажутся либо несущественными, либо фатальными. Гены Hox представляют собой репрезентацию продуктивной среды эволюционного поиска. Это своего рода естественный интеллект на молекулярном уровне.