Искусственный интеллект – надежды и опасения

Социальная выборка, если совсем упрощенно, сводится к изучению действий окружающих, таких же как мы, выявлению наиболее популярных шагов и подражанию этим действиям, если они нас привлекают. Распространению идеи способствует функция популярности, но индивидуальное признание также связано с выяснением того, как эта идея воздействует на индивида (рефлексивное отношение). При объединении социальной выборки с личной оценкой получается превосходное решение. Это поистине удивительно, потому что теперь мы располагаем математическим «рецептом» для охвата людей всеми этими техниками ИИ, предназначенными для тупых компьютерных нейронов. У нас появляется способ собрать людей вместе для принятия наилучших решений на основании накапливаемого опыта.

Посмотрим, что происходит в реальном мире. Почему бы нам не поступать так постоянно? Что ж, люди в целом так себя и ведут, но порой что-то выходит из-под контроля. Например, возьмем рекламу, пропаганду и «поддельные новости» (фейки). Имеется множество способов навязать людям популярность, когда на самом деле ее нет и в помине, и это разрушает полезность социальной выборки. Навык «придания ума» человеческим группам, навык создания человеческого ИИ пригодится только при условии достоверной обратной связи. Вы должны твердо знать, достигли результата действия каждого человека или нет.

То же самое верно в отношении ИИ. Искусственный интеллект анализирует правильность своих действий. Если действия правильны, связь укрепляется; если нет – ликвидируется. Нам нужна достоверная обратная связь, чтобы человеческий механизм работал эффективно, и нужны надежные способы узнавать о действиях других людей, чтобы мы могли правильно оценивать популярность конкретных шагов и вероятность правильного выбора.

Следующим этапом будет прописывание функции передачи ответственности, функции обратной связи для человеческого общества, дабы мы могли создать эффективную человеко-искусственную экосистему – умную организацию и умную культуру. В некотором смысле нам необходимо дублировать ряд ранних идей, которые, например, легли в основу механизма переписи в США, чтобы выявить основные факты, не вызывающие отторжения ни у кого; передача знаний и культуры должна происходить таким образом, чтобы достоверная социальная выборка доказала свою эффективность.

Мы можем выстраивать функцию передачи ответственности в разнообразии условий. В компаниях, например, можно использовать цифровые именные бейджи, которые покажут, кто и с кем связан, благодаря чему удастся сопоставить схему связей с результатами компании в ежедневной или еженедельной перспективе. Функция передачи ответственности побуждает узнавать, помогают ли выявленные связи справляться с проблемами, изобретать новые решения, и усиливает полезные связи. Когда эту обратную связь получается выразить количественно – что непросто, поскольку очень и очень многое количественно не измерить, – тогда производительность и скорость внедрения инноваций в организации значительно улучшаются. Такова, скажем, основа метода «непрерывного совершенствования» в корпорации «Тойота»[152].

Следующий шаг заключается в попытках проделать то же самое с увеличением масштаба и создать, как я это называю, доверительную сеть данных. Ее можно рассматривать как распределенную систему, подобную интернету, но со способностью количественного измерения и оценки качества человеческого общества (та же перепись в США довольно подробно рассказывает о численности населения и ожидаемой продолжительности жизни). Опытные образцы доверительных сетей тестируются сегодня сразу в нескольких странах, и за основу взяты данные и методы, изложенные в программе устойчивого развития ООН.

На горизонте маячит ви́дение того, как мы можем сделать человечество более разумным, создав человеческий ИИ. Это ви́дение формируется двумя картинами. Первая образована данными, которым все доверяют, – это данные, проверенные широким сообществом, данные, алгоритмы комбинирования которых известны и отслеживаются, во многом подобные данным переписи (ведь на последние мы полагаемся автоматически, признавая за ними хотя бы приближенную достоверность). Вторая картина образуется посредством объективной оценки общественных норм, политики и деятельности правительства на основе достоверных данных о текущей ситуации. Эта вторая картина зависит от доступности доверенных данных и потому едва начала проявляться. Надежные данные и оценка норм, политик и деятельности правительства на основе данных вместе порождают функцию передачи ответственности, которая повышает приспосабливаемость и интеллект общества в целом.