Искусственный интеллект – надежды и опасения

Будь США такими, как Европа, я бы начал беспокоиться. В Европе те же самые семьи, если присмотреться, владеют богатством на протяжении сотен лет, поэтому они укоренились не только в финансовой, но и в политической системе, а также в иных отношениях. Но Америке до сих пор удавалось не допустить появления такой наследственной классовой системы. Чрезмерное богатство краткосрочно, и это хорошо. Оно не должно задерживаться. Если вы выиграете в лотерею, то получите свой миллиард долларов, но пусть ваши внуки сами зарабатывают на жизнь.

Об ИИ и обществе

Люди боятся ИИ. Возможно, это правильно. Но надо понимать, что ИИ питается данными. Без данных он – ничто. Не стоит тратить время на наблюдения за ИИ; вместо этого следует изучать его «диету» и поступки. Структура доверительной сети, которую мы конструируем с государственной помощью ЕС и других стран, обеспечивает рамки, куда помещаются наши алгоритмы, куда встраивается наш ИИ; но мы должны контролировать ее входы и выходы, чтобы при необходимости спрашивать: это дискриминирующее решение? Это то, чего действительно хотят люди? Или оно выглядит странновато?

Наиболее показательная аналогия заключается в том, что нынешние регуляторы, бюрократия и правительства очень похожи на ИИ: они берут правила, которые мы называем законами и нормативами, используют накопленные государством данные и принимают решения, которые влияют на нашу жизнь. Недостаток нынешней системы заключается в том, что мы очень слабо контролируем эти министерства, органы регулирования и прочую бюрократию. Единственный способ контроля, доступный нам, – это выборы, возможность передать власть кому-то еще. Нужно добиваться более плотного и тщательного контроля. Нужно фиксировать данные, послужившие основой для каждого принятого решения, и анализировать результаты для всех заинтересованных сторон – наподобие того, как изначально предполагалось для выборных легислатур.

При наличии данных на входе и выходе всякого решения мы легко можем узнать, насколько честен алгоритм. Не составит труда выяснить, морален этот ИИ или аморален с нашей точки зрения. Такой подход принято называть «открытым алгоритмом»; вы воочию видите информацию на входе и оцениваете решение, основанное на этой информации. Тем самым появляется возможность понять, поступает ИИ правильно или неправильно. Оказывается, это несложно. Кто контролирует данные, тот контролирует ИИ.

Люди часто забывают упомянуть о том, что все тревоги по поводу ИИ аналогичны опасениям по поводу действий нынешних правительств. Применительно к большей части правительства – речь о системе правосудия и пр. – общество не обладает достоверными сведениями о конкретных действиях в конкретных ситуациях. Как узнать, справедлив суд или нет, если у нас нет входной и исходящей информации? Аналогичная проблема возникает с машинным ИИ, и ее следует трактовать схожим образом. Нужны достоверные данные, чтобы контролировать нынешние правительства в сфере обработки данных и принятий решений, – и машинный ИИ нисколько здесь не отличается.

ИИ следующего поколения

Современные алгоритмы машинного обучения по своей сути непроходимо глупы. Они используют метод грубой силы, поэтому им требуются сотни миллионов образцов и примеров. Они работают благодаря тому, что возможно аппроксимировать что угодно из множества малых элементов. Такова ключевая идея современных исследований ИИ: если используется обучение с подкреплением для обратной связи в передаче ответственности, то возможно на основании обилия малых фрагментов вывести любую произвольную функцию по желанию программиста.

Но использование неправильных функций для принятия решений означает, что способность ИИ принимать правильные решения не подлежит обобщению. Если мы зададим ИИ иные данные, система может принять другое, совершенно необоснованное решение. Или, если ситуация изменится, ее придется переучивать. Имеются забавные методики поиска «нулевого пространства» в системах ИИ. Речь об образцах, которые ИИ признает валидными, поскольку его обучили их распознавать (скажем, человеческие лица, кошек и т. д.), но для человека эти образцы покажутся полной нелепицей.

Нынешний ИИ ведет описательную статистику способом, который не является научным и который практически невозможно сделать научным. Чтобы построить эффективную систему, требуется некая наука в основе данных. Системы, которые я рассматриваю как ИИ следующего поколения, будут порождением такого научного подхода: если вы собираетесь создать ИИ для оперирования чем-то физическим, в него следует внедрить знание законов физики (описательных функций) вместо пресловутых тупых нейронов. Допустим, нам известно, что физика использует такие функции, как полиномы, синусоиды и экспоненты; значит, они, а не крохотные линейные нейроны, должны стать нашими базовыми функциями. При использовании этих более подходящих базовых функций понадобится гораздо меньше данных, намного легче подавлять шум, а результаты оказываются куда лучше.