Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Когда в социальной сети стала появляться реклама марихуаны, Шрепфер и его команда создали системы, способные идентифицировать такую рекламу. Затем появлялись новые проблемы и задачи, и специалисты компании создавали новые способы идентификации этого нового контента, и цикл продолжался. Среди прочего разработчики создали системы, которые могли самостоятельно генерировать дезинформацию. Эти системы опирались на технологию генеративно-состязательных сетей и связанные с ними методы генерирования изображений. Использовалась также технология Wavenet, разработанная в DeepMind, которая могла генерировать реалистичные звуки, даже подражать чьему-либо голосу, например Дональда Трампа или Нэнси Пелоси.

Это превращалось в игру ИИ против ИИ. Когда подошел срок очередных выборов, Шрепфер объявил конкурс, призвав специалистов всей IT-индустрии и научных кругов создавать системы ИИ, которые могли бы идентифицировать дипфейки, то есть фейки, генерируемые другими системами ИИ. Вопрос был в том, какая сторона победит. Для таких исследователей, как Ян Гудфеллоу, ответ был очевиден. Дезинформация победит. Ведь генеративно-состязательные сети как раз и замышлялись как метод создания генератора образов, способного обмануть любой детектор. И этот генератор победит еще до начала игры.

Через несколько недель после объявления конкурса кто-то из журналистов снова спросил Яна Лекуна, может ли искусственный интеллект остановить фейковые новости. «Я не уверен, что у кого-то есть технология, способная оценить правдивость новостей, – сказал он. – Ведь правдивость, особенно когда речь идет о политических вопросах, – очень субъективное понятие». Даже если бы вы могли построить машину, которая могла бы более-менее выполнять эту работу, добавил он, нашлось бы множество людей, которые сказали бы, что специалисты, которые ее создавали, были предвзятыми, и что данные, которые использовались для ее обучения, были предвзятыми, и они бы просто не приняли это. «Даже если бы такая технология существовала, – заключил он, – не факт, что ее стоило бы использовать».

Часть четвертая

Людей недооценивают

Глава 18

Дебаты. «Как бы долго ни продолжался стремительный прогресс, Гэри все равно будет утверждать, что это вот-вот закончится»

Для Google кульминацией года считается конференция под названием I/O. Это старое сокращение, принятое у компьютерщиков и означающее Input/Output («Ввод/Вывод»). Ежегодно в мае тысячи людей, желающих принять участие в этой корпоративной феерии, совершают паломничество в Маунтин-Вью. Они съезжаются со всей Кремниевой долины и из более удаленных уголков мира высоких технологий только для того, чтобы на протяжении трех дней знакомиться с новейшими продуктами и услугами компании. Эта ежегодная конференциия проводится в Shoreline Amphitheatre, концертном зале на двадцать две тысячи мест, шпили которого, похожие на цирковые шатры, возвышаются над поросшими травой холмами через дорогу от штаб-квартиры компании. За минувшие десятилетия в этом амфитеатре выступали многие выдающиеся музыкальные коллективы, от Grateful Dead до U2 и Backstreet Boys. И здесь же каждый год выходит на сцену Сундар Пичаи, чтобы рассказать тысячам разработчиков программного обеспечения о бесчисленных технологиях, рождающихся из недр его компании, деятельность которой становится все более многообразной. В день открытия конференции весной 2018 года Пичай, одетый в темно-зеленую флиску⁵⁵⁵ поверх ярко-белой футболки, объявил собравшимся, что разработанный компанией виртуальный голосовой помощник сам может делать телефонные звонки.

Благодаря методам, впервые разработанным Джеффом Хинтоном и его учениками в Торонто, Google Assistant научился распознавать произносимые слова не хуже человека. Благодаря Wavenet, технологии генерации речи, разработанной в DeepMind, разговаривает он тоже вполне по-человечески. И вот, стоя на сцене Shoreline Amphitheatre, Пичаи представил новую фишку. Google Assistant, объявил он собравшимся, теперь может сам позвонить в ресторан и зарезервировать столик⁵⁵⁶

. Он делал это в фоновом режиме, через компьютерную сеть Google. Вам достаточно попросить Ассистента заказать столик на ужин⁵⁵⁷, и дальше вы можете заниматься своими делами, например выносить мусор или поливать газон, а Ассистент сделает автоматический телефонный звонок в выбранный вами ресторан откуда-нибудь из центра обработки данных Google. Пичай прокрутил аудиозапись одного из таких звонков⁵⁵⁸ – разговор между Ассистентом и женщиной, которая ответила на звонок в неназванном ресторане.

– Здравствуйте, чем могу помочь?⁵⁵⁹

 – спросила женщина с сильным китайским акцентом.

– Здравствуйте, я хотел бы зарезервировать столик на среду, седьмого, – сказал Google Assistant.

– На семь человек? – переспросила женщина, и по залу прокатились смешки.

– Э-э, на четыре человека, – сказал Google Assistant.