Мотивация и системы мотивирования

Что до самого ИИ как факта наших дней – пока в этом явлении больше моды, чем смысла. Дискуссии о том, нужно ли ограничивать развитие ИИ, на мой взгляд, представляют собой жалкие попытки старшего поколения защитить привычный для них мир от изменений. Однако джинн уже выпущен из бутылки и назад не собирается. Текущие военные конфликты показывают, что мир никогда не будет прежним – использование беспилотников в качестве эффективного средства поражения целей противника стремительно пришло в реальность из кинематографических антиутопий. Человечество на протяжении всей своей истории сначала изобретало средство истребления друг друга, а потом старалось использовать полученное в мирных целях.

Я спросила популярную сейчас игрушку ChatGPT, каковы основные риски для человечества от развития ИИ? Игрушка усмехнулась и ответила, что это:

• лишение людей оплачиваемой работы в силу автоматизации многих рутинных процессов;

• усиление экономического неравенства, так как наиболее богатыми людьми на планете уже сейчас являются те, кто контролирует технологии ИИ, и этот разрыв между ними и остальными будет увеличиваться;

• ИИ может использоваться для кибератак, обрушивая различные системы ИТ-зависимого мира, что гарантированно приведет к различным катастрофам;

• ИИ будет активно использоваться в силовых целях – не только армией, но и полицией;

• данные о личности перестают быть секретными и могут использоваться для различных манипуляций с целью контроля над личностью;

• если ИИ тренируется на данных со встроенными предубеждениями (расовыми, гендерными и прочими), то все дальнейшие действия на основе ИИ будут дискриминирующими: прием на работу, судопроизводство, образование, медицинское обслуживание и прочие необходимые человеку сферы жизни;

• сложность алгоритмов работы ИИ не позволяет оценивать корректность предоставляемой им информации, может приводить к критическим сбоям в работе важнейших систем жизни общества;

• делегирование многих видов деятельности искусственному интеллекту приведет к вырождению способности людей осуществлять эту деятельность и сделает зависимость от ИИ самодостаточной;

• ИИ уже сейчас порой должен делать этический выбор – например, кем жертвовать в сложной дорожной ситуации, если несколько машин-беспилотников хотят избежать катастрофы именно для своих пассажиров. Такой же выбор может возникнуть в определении приоритетности оказания медицинской помощи и других. Решения, устраивающего всех, пока нет.

И далее немало прочих реальных витальных рисков.

На вопрос «Как избежать этих рисков?» игрушка ответила: «Поздно» (шучу). Чат-бот выкатил три страницы ответов о необходимости всем договориться о регуляции и принять общие правила, которые повысят контроль и понизят риски – бла-бла. И сообщил, что сам он как замечательная разработка OpenAI настроен максимально безопасным образом, хотя и признает, что ничто «роботовое» ему не чуждо. Наличие чувства юмора у игрушки порадовало – значит, интеллект есть. Чат-бот далее предложил в отношении него придерживаться тех же сдерживающих регламентов, которые указаны и в многостраничном списке об AI вообще. Однако опыт жизни в мире людей давно научил тому, что за каждым регламентом есть конкретный бенефициар и нет «светлого рыцаря», радеющего за все человечество. Недавняя пандемия COVID-19 и последующие конфликты показали уровень неэффективности международных структур, неспособность стран договориться о совместном решении гораздо менее сложных проблем, чем контроль над ИИ. Мир искусственного интеллекта не стоит на пороге, мы уже в нем живем. Как долго и насколько счастливо? Зависит от того, сможем ли мы вовремя определить, по чьим правилам нас побуждают играть и нужно ли это нам. Рекомендую перечитать введение к этой книге, в котором есть несколько дельных советов по использованию собственной головы даже в момент, когда кажется, что более эффективно думать за тебя способен кто-то другой. Не отключайте голову, она еще пригодится.