Искусственный интеллект – надежды и опасения

У нас мало-помалу появляется возможность анализировать, прогнозировать и даже проектировать формирующееся поведение сложных гетерогенных сетей. Кибернетическое представление о «вовлеченном» индивидуальном акторе может быть расширено и охватывать сложные системы «вовлеченных» индивидов и машин, а понимание на основе подобного более широкого представления принципиально отличается от картины, основанной на базовом кибернетическом представлении. Мыслить о сети – все равно что мыслить о цельной экосистеме. Как бы вы заставили некую экосистему развиваться в правильном направлении? Что вы подразумеваете под «правильным» направлением? Такие вопросы выходят за рамки традиционного кибернетического мышления.

Возможно, наиболее важным является осознание того, что люди уже начинают использовать ИИ и машинное обучение для управления цельными экосистемами, включая человеческие экосистемы, и тем самым создают экологию взаимоотношений человека и искусственного интеллекта. Ныне, когда все становится «датируемым», мы можем проводить измерения большинства аспектов человеческой жизни – и стремимся к измерению вообще всех ее аспектов. С учетом появления новых и успешных техник машинного обучения это означает, что мы можем создавать модели указанных экологий, ранее невозможные. Хорошо известными примерами здесь выступают модели прогнозирования погоды и дорожного движения, расширяемые до прогнозирования глобального климата и планирования роста и обновления городов. Автоматизированное проектирование экологии уже сделалось реальностью.

Развитие экосистем человеко-искусственного интеллекта, возможно, на самом деле неизбежно для социального вида наподобие нас с вами. Мы социализировались еще в начале нашей эволюции, миллионы лет назад. Мы начали обмениваться информацией друг с другом, чтобы оставаться в живых и улучшать нашу приспосабливаемость. Мы создали письменность для обмена абстрактными и сложными идеями, а сравнительно недавно спроектировали и сотворили компьютеры для улучшения наших коммуникаций. Сейчас мы разрабатываем модели искусственного интеллекта и системы машинного обучения для экосистем и делимся прогнозами этих моделей, чтобы совместно сформировать новый мир через новые законы и международные соглашения.

Мы живем в уникальный исторический период, когда доступность огромного объема данных о человеческом поведении и достижения в машинном обучении позволяют решать сложные социальные проблемы посредством алгоритмического принятия решений. Возможности для человеко-искусственной экологии оказывать позитивное социальное воздействие посредством более справедливых и более прозрачных решений очевидны. Но имеются и риски «тирании алгоритмов», когда миром начнут заправлять никем не выбранные эксперты по обработке данных. Выбор, который мы делаем сегодня, даже более важен, быть может, нежели тот, который стоял перед нами в 1950-х годах, когда создавались ИИ и кибернетика. Проблемы выглядят похожими, но это обманчивое впечатление. Мы ушли далеко вперед, масштабы заметно увеличились. Речь уже не о роботизированном ИИ против людей, речь об ИИ, управляющем экологиями.

* * *

Как можно создать хорошую человеко-искусственную экосистему, которая будет не сугубо машинным обществом, а киберкультурой, в рамках которой найдется место для людей, – так сказать, культуру с человеческим лицом? Мы не желаем довольствоваться малым – например, рассуждать только о роботах и беспилотных автомобилях. Нет, нам нужна глобальная экология. Мы думаем с размахом «Скайнет». Но как сделать нечто в духе «Скайнет» с человеческими ресурсами?

Первый вопрос, который напрашивается: какая магия заставляет работать нынешний ИИ? В чем мы ошибаемся и в чем правы?

Хорошо то, что нынешний ИИ обладает так называемой функцией передачи ответственности. Это позволяет брать «тупые нейроны» – малые линейные функции – и выяснять в контексте большой сети, кто из них работает по-настоящему; эти «работяги» стимулируются. Мы словно берем случайную группу коммутаторов, подключенных друг к другу в сети, и наделяем их разумом через обратную связь о результатах деятельности. Звучит просто, но в основе этой процедуры лежат сложные вычисления. Вот магия, которая заставляет работать нынешний ИИ.

Скверно же то, что, поскольку эти крохотные нейроны и вправду глупы, сведения и опыт, которые они усваивают, не слишком хорошо обобщаются. Если ИИ видит что-то, чего не видел раньше, или если мир вокруг немного меняется, ИИ с немалой вероятностью допустит какую-нибудь нелепую ошибку. Он совершенно не умеет учитывать контекст. В некотором смысле это настолько далеко от первоначального представления Норберта Винера о кибернетике, насколько вообще возможно, потому что опыт не контекстуализируется; перед нами юный idiot savant [151].