WTF? Гид по бизнес-моделям будущего

2011 год также был годом, когда корпорация Google объявила, что ее прототип беспилотного автомобиля проехал более 100 000 миль в режиме обычного дорожного движения, всего через шесть лет после того, как победитель соревнований автомобилей-роботов DARPA Grand Challenge сумел проехать всего семь миль за семь часов. Сегодня беспилотные автомобили и грузовики находятся в центре внимания, в то время как в СМИ ведутся жаркие споры по поводу того, что они, возможно, уничтожат миллионы человеческих рабочих мест. Страх, что эта следующая волна автоматизации продвинется в обесценивании человеческого труда намного дальше, чем первая промышленная революция, – это то, что заставляет многих говорить, что «на этот раз все будет по-другому», когда речь заходит о технологиях и экономике будущего.

Граница между узкоспециализированным ИИ и другим сложным программным обеспечением, способным учитывать многие факторы и за микросекунды принимать решения, нечеткая. Автономные или полуавтономные программы, способные выполнять сложные задачи, на протяжении десятилетий были частью кровеносной системы нашего общества. Мы полагаемся на автоматизированные коммутирующие системы для маршрутизации наших телефонных звонков (когда-то операторы телефонных станций в буквальном смысле соединяли абонентов с конкретной точкой при помощи кабелей), и люди регулярно преодолевают тысячи километров на самолетах, управляемых автопилотом, в то время как человек-пилот сидит рядом «на всякий случай». Несмотря на то что поначалу эти системы кажутся волшебными, никто не думает о них как об искусственном интеллекте.

Персональные помощники, такие как Siri, Google Assistant, Cortana и Alexa компании Amazon, представляются нам «искусственными интеллектами», потому что они слушают нас, говорят и отвечают человеческим голосом, но даже они в действительности не разумны. Это умело запрограммированные системы, существование большинства которых возможно, потому что они имеют доступ к огромным объемам данных, которые могут обрабатывать намного быстрее, чем любой человек.

Но существует одно ключевое различие между традиционным программированием даже самых сложных систем, глубинным обучением и другими методами в сфере передовых технологий ИИ. Вместо того чтобы описывать каждую процедуру, создается базовая программа, такая как распознаватель изображения или классификатор, а затем обучается путем сообщения ей большого количества данных, промаркированных людьми, пока она не сможет распознавать закономерности в данных самостоятельно. Мы обучаем программу тому, как выглядит результат успешной деятельности, а она учится нас копировать. Это порождает опасение, что эти программы становятся все более независимыми от своих создателей.

Общий искусственный интеллект (который также иногда называют «сильным ИИ») по-прежнему остается предметом научной фантастики. Это продукт гипотетического будущего, в котором искусственный интеллект обучают быть умным не только в отношении конкретной задачи, но и самостоятельно обучаться и эффективно использовать свои способности для решения любой проблемы, с которой он столкнется.

Возникает опасность, что у общего искусственного интеллекта появятся свои собственные цели и, благодаря своей способности к самостоятельному обучению на сверхчеловеческих скоростях, он будет самосовершенствоваться такими темпами, что вскоре оставит людей далеко позади. Страшная перспектива заключается в том, что такому сверхчеловеческому ИИ люди станут не нужны, или в лучшем случае он будет содержать нас, как мы содержим домашних животных. Никто не знает даже, как мог бы выглядеть такой интеллект. Но такие люди, как Ник Бостром, Стивен Хокинг и Илон Маск, постулируют, что, как только он появится, он быстро опередит человечество и последствия этого будут непредсказуемы. Бостром называет эту следующую стадию развития сильного ИИ «искусственным суперинтеллектом».

Первооткрыватели глубинного обучения Демис Хассабис и Ян Лекун относятся к этой перспективе скептически. Они считают, что мы пока еще далеки от создания общего искусственного интеллекта. Эндрю Ын, бывший руководитель научных исследований ИИ для китайской поисковой системы-гиганта Baidu, сравнил такого рода беспокойство по поводу враждебно настроенного ИИ с беспокойством о перенаселенности на Марсе.

Даже если мы никогда не придем к общему искусственному интеллекту или искусственному суперинтеллекту, я считаю, что существует третья форма ИИ, которую я называю гибридным искусственным интеллектом, которая весьма опасна для ближайшего будущего.

Когда мы представляем себе искусственный интеллект, мы полагаем, что у него будет индивидуальное «я», индивидуальное сознание, как и у нас. Но что, если вместо этого ИИ больше походит на многоклеточный организм, на эволюцию за пределами нашего одноклеточного «я»? Более того, что, если мы – даже не клетки этого организма, а его микробиом, наподобие огромной экологической системы микроорганизмов, обитающих в наших телах? Эта идея – в лучшем случае метафора, но я считаю, что она уместна.