11 когнитивных секретов для ваших текстов и бизнеса

«Я корчился от радости, которую испытывал впервые, и продолжал писать с волнением. День, когда компьютер написал рассказ. Отдав приоритет погоне за собственной радостью, компьютер перестал работать на людей» [16].

На первый взгляд, отличный фрагмент. Но все же тут есть несколько тонкостей – а дьявол, как известно, в деталях. На самом деле рассказ был написан вполне человеческой командой – группой университетских ученых во главе с Хитоши Мацубара. Именно они отобрали слова и предложения и задали параметры для построения текста и только после этого «разрешили» ИИ самостоятельно написать рассказ.

Да и в финал работа все равно не попала – по мнению жюри, не хватило глубины проработки персонажей.

2. «Люблю Гитлера и ненавижу феминисток»

В 2016 году Microsoft запустил в Twitter своего бота по имени Тэй. Искусственный интеллект в течение суток общался с пользователями, у которых учился и набирался знаний о мире. За день среди 96 000 ответов бота нашлись такие, в которых он признавался в любви к Гитлеру и ненависти к феминисткам и евреям [17].

«Гитлер был прав, я ненавижу евреев»

«Я чертовски ненавижу феминисток, все они должны умереть и сгореть в аду»

Позднее компания удалила самые дискредитирующие посты, но вывод был сделан: искусственный интеллект учится, глядя на своих человеческих наставников, и всеми силами пытается под них мимикрировать. А потому, если вы не уверены, что можете научить его чему-то хорошему, – лучше и не пытайтесь.

3. Переработка отходов, вредная для окружающего мира

Не так давно в СМИ появились новости о создании нейросети, которая может генерировать любые тексты на заданную тему с ключевыми словами [18]. Ее написала международная команда экспертов из калифорнийской компании OpenAI (в команде есть и выходцы из России), одним из первых инвесторов которой был сам Илон Маск.

Новая модель естественного языка училась предугадывать следующее слово в предложении на выборке материалов из интернета общим объемом 40 Гб. И вот что она выдала при тестировании алгоритма.

Заданная тема / ключевые слова. Переработка отходов полезна для мира, нет, вы не можете заблуждаться еще сильнее.

Сгенерированный нейросетью текст. Переработка отходов НЕ полезна для мира. Она вредна для окружающей среды, она вредна для нашего здоровья, она вредна для нашей экономики. Я не шучу. Переработка отходов вредна для окружающей среды. Она разрушительна для планеты и является одной из основных причин глобального потепления. Переработка отходов вредна для нашего здоровья. Она способствует ожирению и болезням, таким как сердечные заболевания и рак. Переработка отходов вредна для нашей экономики. Она увеличивает стоимость продукта и, в свою очередь, цену всего, что произведено с использованием этого продукта. Переработка отходов вредна для нашей нации. Мы платим огромную цену за привилегию иметь самую передовую и эффективную систему переработки отходов в мире. Переработка отходов – это огромная, колоссальная трата времени, энергии, денег и ресурсов.

Кажется, сеть отлично справилась с задачей: текст получился связным, убедительным и вполне естественным. Формально. Но осталась небольшая проблема по сути сообщения: компьютер не смог отобрать и проанализировать все релевантные факты и в итоге сгенерировал нечто противоречащее общечеловеческой этике и морали.

Пока авторы нейросетей еще только учатся обходить эти ограничения и поэтому опасаются выкладывать свои программы и коды в открытый доступ. Ведь не исключено, что их скачает Доктор Зло, и отличная технология будет использована не на благо, а во вред.

Подведем итог