Искусственный интеллект – надежды и опасения

Сервис Google Books обеспечивает бесплатное распространение сотен тысяч литературных произведений, но сама компания «Гугл», наряду с «Фейсбук», «Амазон», «Твиттер» и их многочисленными подражателями, усвоила базовую форму «информации» и использует ее для максимизации своих доходов. Петабайты шенноновской информации – казалось бы, бессмысленный поток кликов, лайков и ретвитов, фиксируемый практически для каждого, кто когда-либо выходил в сеть, – просеиваются через запатентованные алгоритмы глубинного обучения для микротаргетинга всего на свете – от показа рекламных объявлений до новостей (правдивых или вымышленных), которые мы встречаем при просмотре веб-страниц.

Еще в начале 1950-х годов Винер предлагал исследователям изучать структуры и правила поведения муравьев – в отличие от людей, – чтобы в один прекрасный день машины могли обрести «почти безграничные возможности интеллектуального развития», доступные для людей (но не для насекомых). Он находил утешение в мысли о том, что машины станут господствовать над нами только на «последних ступенях возрастания энтропии», когда «статистические различия между индивидуумами» станут «равны нулю». Сегодняшние алгоритмы дата-майнинга[128]

ставят винеровскую методику с ног на голову. Они приносят прибыль, эксплуатируя наши «древние» мозги, а вовсе не имитируя кору головного мозга, собирают информацию по всем нашим кликам, постам и блогам, по ночным поискам сетевых удовольствий, и стараются учитывать именно крошечные, остаточные «статистические различия между индивидуумами».

Безусловно, некоторые недавние достижения в области искусственного интеллекта оказались поразительными. Компьютеры научились творить визуальные произведения искусства и музыкальные композиции, сопоставимые с произведениями признанных мастеров, то есть создают ту «информацию», которую больше всего ценил Винер. Но на сегодняшний день наибольшее влияние на общество оказывают сбор и обработка информации в понимании Шеннона: она определяет наши покупательские привычки, участие в политической жизни, личные отношения, конфиденциальность в сети и многое другое.

Во что может эволюционировать глубинное обучение, если «информация» впредь будет толковаться так, как предполагал Винер? Куда мы придем, если исследования в области ИИ будут вдохновляться моральными убеждениями Винера, его обеспокоенностью по поводу безудержного милитаризма, стремительного усиления власти корпораций, одержимых извлечением прибыли, самоограничивающей секретности и сведения богатства способов человеческого самовыражения до обмена взаимозаменяемыми товарами? Возможно, глубинное обучение позволит культивировать осмысленную информацию и избавит нас от безудержной и безжалостной погони за бессмысленными битами.

Глава 16

Масштабирование

Нил Гершенфельд

физик и директор Центра битов и атомов МТИ, автор книг «FAB» и (совместно с Аланом Гершенфельдом и Джоэлом Катчером-Гершенфельдом) «Проектирование реальности», учредитель глобальной сети фаблабов.

В ходе вышеупомянутой встречи и переговоров в Коннектикуте Нил Гершенфельд внес в обсуждение глоток свежего воздуха, когда заявил, что терпеть не может «Человеческое применение человеческих существ»; эти слова встретили улыбками, как и его заявление, что информатика – это наихудшее, что могло случиться с компьютерами и наукой. В целом же он утверждал, что Винер упустил из вида последствия цифровой революции, происходившей в 1950-е (впрочем, некоторые наверняка скажут, что нельзя предъявлять подобное обвинение человеку, обитавшему, так сказать, на первом этаже недостроенного здания и лишенному дара ясновидения).

«Хвост виляет собакой, – продолжал Нил. – В моей жизни это были фаблабы и движение творцов[129]; когда Винер рассуждал об угрозах автоматизации, он не замечал очевидного, конкретно того, что доступ к средствам автоматизации позволит людям добиваться многого, скажем, через фаблабы; в моей области рост идет по экспоненте».