Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Официально миссия Boundless AI – это «соединение нейронаук и ИИ для простых личных поведенческих решений». То есть речь о такой манипуляции Homo connecticus, которая позволит контролировать его реакции и направлять его выбор. Говоря конкретно, Boundless AI предоставляет приложениям проверенные нейронауками техники, помогающие выработать у пользователей пристрастие к таким приложениям. Иными словами, компания продает зависимость. Рамсей понял это, когда попытался выполнить свое совершенно правильное решение заниматься спортом, принятое им в начале года: почему его приложение для бега не может мотивировать его более проактивно? Boundless AI предлагает довольно простые стимулы, такие как заработанные баллы или поздравления. Рамсей говорит, что четкое сообщение для мозга – как игровой автомат для казино: это самый примитивный, но в то же время самый эффективный инструмент. Тем более что знание схем вознаграждения мозга позволяет проводить весьма тонкую настройку, которая соответствует вкусам и чувствительности каждого. Самое страшное, что это работает: благодаря напоминаниям, настроенным на точно выбранный момент, приправленным правильной дозой подбадривания и укоров, Boundless AI позволила финансовому сектору увеличить прогнозируемый коэффициент погашения кредитов на 14 %, платформе электронной торговли – нарастить средний размер виртуальной корзины клиента на 30 %, а видеоигре – увеличить на 11 % число ежемесячных сессий. Причем этот успех повторяется в любой стране мира, от Калифорнии до Кении, где вела дела компания Boundless AI: мозг, по словам Рамсея, у всех работает одинаково, только форма вознаграждения может меняться в зависимости от культуры. «Но есть же, наверное, – возразил я, – мятежники, оригиналы, которые считают такие сообщения идиотскими и патерналистскими?» «Мы ничего такого не заметили», – говорит Рамсей, теребя бороду, явно гордясь своей компанией, но в то же время стыдясь за человечество. Предлагаю вам самостоятельно поразмышлять о лозунге Boundless AI: «Ваш мозг можно запрограммировать. Вам просто нужен код».

Рамсей, по образованию специалист по нейронаукам, не имеет никаких иллюзий насчет свободы воли. Он цитирует разных авторов – изобретателя кибернетики Норберта Винера и психолога Б. Ф. Скиннера, придумавшего «радикальный бихевиоризм», – чтобы убедить меня в том, что человеческое поведение – это продукт среды, которая является частью постоянно работающей петли действия и реакции. Наука вероятности превращает нас в тех, кого можно предсказать статистически. Технологии ИИ пользуются этим знанием, чтобы, по примечательному академическому выражению Рамсея, «изменить будущее распределение поведения». Почему бы не помочь людям, чтобы они, к примеру, вовремя принимали лекарства? Если мы уже детерминированы, не лучше ли передать себя в руки Boundless AI, которая, естественно, хвастается тем, что выбирает лишь «этичных» клиентов?

Однако в словах Рамсея заметен и определенный гуманизм, противоречащий его собственным научным принципам. Благодаря этой шизофренической двойственности он и кажется таким необычным и привлекательным человеком. «Действительно ли мы этого хотим?» – спрашивает себя Рамсей за третьим пивом. На этот раз он ссылается на Жака Эллюля, французского философа техники, чтобы оправдать некий «технологический фатализм»[86]. Невозможно сопротивляться технологии. В крайнем случае можно попытаться обернуть ее против нее самой. Так нечистая совесть Рамсея довела его до того, что он создал антидот от собственных продуктов – специальное приложение Space, которое можно использовать бесплатно. Space позволяет «передохнуть», установив паузу перед тем, как на смартфоне можно будет открыть новое приложение. Space выдает сообщения, которые должны вернуть пользователю власть над собственными желаниями: «Не наша вина, если мы пристрастились к приложениям, ведь они сделаны именно для этого». А уж это Рамсей знает лучше любого другого… Напоминая нам о том, насколько мы подвержены манипуляции и насколько нами действительно манипулируют, Space пытается организовать сопротивление компании Boundless AI и им подобным. Неудивительно, что приложение было запрещено в App Store компанией Apple, и Рамсею пришлось долго бороться в медиа, чтобы его туда вернули. Но этот провал определялся самой концепцией приложения, поскольку Space призван бороться с рефлексами, крепко укорененными в нашей биологической конституции. На сегодняшний день только 10 тысяч Homo connecticus ежедневно включают Space, тогда как число пользователей услуг Boundless AI в двадцать раз больше. Пристыженный Рамсей признаёт, что его пользователи добровольно предпочитают рабство. Бедный доктор Джекил, разгромленный мистером Хайдом!