Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

– Четыре человека. Когда? Сегодня? Вечером? – спросила женщина в ресторане, и смешки стали громче.

– Э-э, в следующую среду в шесть.

– Вообще-то мы резервируем места не больше, чем для пяти человек. Вчетвером можете приходить.

– Как долго обычно приходится ждать, чтобы… э-э… занять место?

– В какое время? Завтра? Или в выходные?

– В следующую среду, э-э, седьмого.

– А нет, тогда не слишком людно. Можете приходить вчетвером, хорошо?

– Ага, понятно. Спасибо.

– Да, до свиданья, – сказала женщина, и зал взорвался овацией.

Как объяснил Пичай, эта новая технология, получившая название Duplex⁵⁶⁰, стала результатом нескольких лет прогресса в различных направлениях развития искусственного интеллекта, включая распознавание и генерацию речи, а также понимание естественного языка – то есть способность не просто распознавать и продуцировать отдельные слова, но и по-настоящему владеть человеческой речью. Тех, кто находился в аудитории, демонстрация Пичаи по-настоящему потрясла. Затем он прокрутил им вторую запись, где Google Assistant позвонил в парикмахерскую⁵⁶¹, чтобы записаться на стрижку. Когда женщина в салоне сказала: «Дайте мне секундочку», а система ответила: «Ммм-ммм», – в зале раздались аплодисменты⁵⁶². Система Duplex могла отвечать не только правильными словами, но и подходящими случаю звуками – правильными вербальными сигналами. В последующие дни многие специалисты говорили, что система Duplex так хорошо имитирует человека, что возникает вопрос об этичности этого. Ведь система фактически обманывает людей, заставляя их думать, что она тоже человек. Руководство Google согласилось настроить систему⁵⁶³ так, чтобы она всегда сообщала, что она бот. Вскоре компания выпустила этот инструмент для пользователей Соединенных Штатов.

Но, с точки зрения Гэри Маркуса, эта технология была совсем не тем, чем казалась.

Через несколько дней после того, как Пичай выступил со своей презентацией в Shoreline Amphitheatre, Маркус, профессор психологии Нью-Йоркского университета, опубликовал статью в New York Times⁵⁶⁴, в которой постарался поставить Google Duplex на место. «Если бы эта презентация не была хитроумным фокусом⁵⁶⁵, то, что мы увидели, можно было бы назвать впечатляющим (хотя и несколько жутковатым) достижением. Но Google Duplex вовсе не является значительным шагом навстречу действительно содержательному искусственному интеллекту, как многие, кажется, думают». Хитрость, по словам автора, заключалась в том, что эта система работает в крошечной нише⁵⁶⁶

: бронирование столиков в ресторанах и запись на обслуживание в парикмахерских. Ограничивая сферу действия⁵⁶⁷ – а значит, и ограничивая возможные ответы на обоих концах телефонной линии, – Google может обмануть людей, заставляя их поверить, что машина – это человек. Но это сильно отличается от системы, которая действительно могла бы выйти за эти рамки. «Записаться на стрижку в парикмахерской?⁵⁶⁸ Мечты об искусственном интеллекте связаны с куда более высокими целями – произвести революцию в медицине, скажем, или создавать надежных роботов-помощников для дома, – пишет Маркус. – Причина такой узости области применения Google Duplex заключается не в том, что это пока небольшой, но важный первый шаг к тем высоким целям. Причина в том, что разработчики ИИ пока еще не имеют понятия о том, как сделать что-то лучшее».

* * *

Гэри Маркус относится к длинному ряду мыслителей, которые верят в силу природы, а не только воспитания. Их называют нативистами, и они утверждают, что значительная часть всех человеческих знаний изначально заложена в мозгу, а не приобретается из опыта. Нативистам противостоят эмпирики, которые считают, что человек приобретает знание главным образом из опыта и обучения. Это спор тянется уже века, и на позиции нативизма стояли многие философы и психологи, начиная от Платона и заканчивая Иммануилом Кантом, Ноамом Хомски и Стивеном Пинкером. Гэри Маркус учился у Пинкера, психолога, лингвиста и автора научно-популярных книг, и на этом же фундаментальном подходе построил свою собственную карьеру. Теперь он перенес свой нативизм в мир искусственного интеллекта, став ведущим мировым критиком нейронных сетей, Марвином Мински эпохи глубокого обучения.