Коротко говоря (подробнее поговорим в главе 2), это всякая ерунда (вымышленные факты, имена, варианты решений и т. п.), которую ИИ берет непонятно откуда.
ИИ может фантазировать как по вполне изученным темам (все реже), так и в случаях, когда у ChatGPT не хватает информации.
Так что на всякий случай советуем вам перепроверять ключевую информацию, касающуюся каких-то чисел, имен, дат, фактов и т. д. Но будем объективны: галлюцинации в свое время сильно подпортили имидж ChatGPT, поэтому разработчики нещадно борются с ними.
Неумение ИИ признаться в незнании
Такое явление встречается все реже. Это тоже подвид галлюцинаций, но несколько иного рода: чистый креатив при полном отсутствии информации.
Например, собранным нами у GPT причинам, по которым крокодилы мигрируют в Сибирь, мог бы позавидовать любой ученый. Но это было давно, в самом начале развития, сейчас ChatGPT стал скучным и признает, что не знает о таком виде миграций.
ChatGPT совсем или частично не подходит для ряда ниш и задач
Здесь следует учесть несколько особенностей.
Иными словами, о том, что не «за океаном», уровень знаний у модели еще невысок. Да, сегодня она уже умеет подстраиваться под язык пользователя и учитывать это при ответе. Например, посоветует для покупки автомобиля не западные, а российские сайты.
Будем надеяться, что со временем этот минус уйдет. Тем более что от модели к модели виден явный прогресс.
Здесь (как и для других пунктов) пока верно правило: если что-то касается единой, общей системы знаний (например, первого закона Ньютона или определения термина «инфляция»), то все нормально. Когда же начинаются какие-то национальные, социальные и прочие особенности, стоит быть внимательными. Вам ведь не нужен доклад руководству, в котором два из семи законов Российской Федерации трактуются иначе, верно?
Чтобы вы поняли, почему мы говорим о таких запросах, приведем аналогию.
Есть макеты видеокамер, которые работают на батарейках. Очень похожи на настоящие камеры, некоторые даже крутятся и мигают. Они намного дешевле настоящих камер и с задачей «создать видимость видеонаблюдения» справляются. Есть лишь один нюанс – это не видеокамеры.
То же самое касается и промтов наподобие «создание бизнес-плана», «маркетинговый анализ», «сбор ключевых запросов». Да, результаты могут быть очень похожи на реальные маркетинговые анализы, но все это – только макеты. В других областях ChatGPT уже работает камера, с разным качеством съемки, но камера. А здесь – бутафория.
Какие-то ключевые запросы собрать, конечно, можно, но они точно не будут отражать истинное положение дел. Чтобы работать с такими тонкими настройками, нужны как минимум специальные онлайн-сервисы.
Или, скажем, бизнес-план. В нем учитываются десятки нюансов: точки роста, анализ рынка, перспективы отрасли и т. д. и т. п. Чтобы это работало, нужно как минимум иметь пласт дополнительной информации. Вы уверены, что ChatGPT сможет ее собрать, например, для Ростовской области, а то и вовсе для какого-нибудь конкретного ее города?
Это ни в коем случае не значит, что ChatGPT и бутафория везде идут бок о бок. Во множестве областей нейросеть очень ценна: там, где нужно создать сценарий, изучить или проверить текст, привести логические аргументы, написать пост и много-много где еще. Но часть направлений, увы, пока вне ее епархии.
Но даже если случилось невероятное и вы ввели какой-то громадный детальный промт для того же маркетингового анализа, все равно возникает множество сложностей. Где гарантия, что: во-первых, не будет галлюцинации; во-вторых, ChatGPT учтет абсолютно все вводные; в-третьих, будет рассчитывать все по вашим правилам и т. п.? Ее нет…
Одно дело, если с помощью ИИ вы создали слабенький пост для соцсети: качество видно сразу, всегда можно отредактировать. Но даже если что-то не заметили и разместили «как есть», то большой беды не будет.
И совсем другое дело – с виду вполне серьезный маркетинговый анализ, но с явным изъяном в расчетах. Там до потери больших денег, времени и сил рукой подать.