Искусственный интеллект – надежды и опасения

Но вообразим, что мы устранили эти ограничения. Допустим, вместо использования тупых нейронов мы взяли нейроны, в которые заложено знание о реальном мире. Возможно, вместо линейных нейронов мы использовали нейроны, являющиеся функциями в физике, а затем попытались согласовать физические данные. Или, может быть, мы вложили в них обилие знаний о людях и человеческих способах взаимодействия друг с другом, то есть статистику и характеристики людей.

Когда мы добавляем эти базовые знания и применяем функцию передачи ответственности, возможно опереться на данные наблюдений и использовать указанную функцию для стимулирования тех, которые обеспечивают правильные ответы. В результате ИИ начнет действовать эффективно и научится обобщать. Например, при решении физических задач часто требуется всего несколько «шумных» точек данных для получения внятного описания какого-то явления, поскольку мы заложили в систему знания о том, как работает физика. Налицо резкий контраст с «обычным» ИИ, которому нужны миллионы обучающих примеров и который чрезвычайно чувствителен к шуму. Добавив соответствующие базовые знания, мы получаем развитый интеллект.

Как и в случае с физическими системами, если мы создаем нейроны, наделенные массой знаний об умении людей учиться друг у друга, то можно выявлять человеческие пороки и причуды и предсказывать тенденции поведения человека, причем поразительно точно и эффективно. Эта «социальная физика» работает потому, что поведение человека определяется как шаблонами нашей культуры, так и рациональным индивидуальным мышлением. Эти модели подлежат математическому описанию и могут быть использованы для точных прогнозов.

Именно концепция передачи ответственности, стимулирующей укрепление связей между нейронами, которые лучше прочих справляются со своим делом, составляет ядро современных исследований в области ИИ. Если сделать эти крошечные нейроны умнее, сам ИИ тоже поумнеет. Но что произойдет, если заменить нейроны людьми? Люди обладают множеством возможностей. Им многое известно о мире вокруг, они способны воспринимать мир широко, осознанно, чисто по-человечески. Что случится, возникни у нас сеть людей, где возможно укреплять полезные связи и минимизировать те, от которых нет пользы?

Очень похоже на некое общество или компанию, правда? Мы все живем в человеческой социальной сети. Мы укрепляем связи, делая то, что идет, как кажется, на пользу другим, и стараемся избегать поступков, которые осуждаются. Культура есть результат работы такого вот человеческого ИИ применительно к решению человеческих задач; это процесс построения социальных структур через укрепление полезных и уничтожение бесполезных связей. Едва становится понятным, что можно взять эту общую структуру ИИ и создать человеческий ИИ, возникает вопрос: как правильно это сделать? Безопасно ли это? Или совершенно безумно?

Мы с моими учениками изучаем человеческие способы принятия решений по гигантским базам финансовых данных, деловых решений и многих других разновидностей решений. Мы обнаружили, что люди часто принимают решения, как бы имитируя алгоритмы передачи ответственности ИИ и тем самым делают умнее сообщество в целом. Особенно любопытно в указанной работе то, что она затрагивает классическую проблему эволюции, известную как проблема выбора группы. Суть этой проблемы в следующем: как выбирать культуру в эволюции, когда воспроизводят себя именно индивиды? Здесь нужно что-то, позволяющее отбирать лучшие культуры и лучшие группы – а также лучших индивидов, поскольку это они передают гены.

Когда формулируешь задачу таким образом и берешься за математическую литературу, то обнаруживаешь, что имеется единственный общепризнанный способ это сделать. Речь о «распределенном сэмплировании Томпсона», математическом алгоритме, что используется при выборе из совокупности возможных действий с неизвестным результатом такого, которое максимизирует ожидаемое вознаграждение. Ключевым моментом выступает социальная выборка, способ объединения доказательств, исследования и эксплуатации одновременно. Это нетипичный подход, уникальный тем, что он может быть лучшей стратегией для отдельного человека и для группы в одно и то же время. Если отталкиваться от группы, которая затем либо уничтожается, либо усиливается, то мы при этом также отбираем подходящих индивидов. Если же отталкиваться от индивидов, каждый из которых делает то, что хорошо лично для него или для нее, то этот выбор автоматически становится наилучшим для группы. Налицо удивительное сочетание личного интереса и пользы, оно дает реальное понимание того, как культура «вписывается» в естественный отбор.