Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Не знаю, придет ли такой день, когда все наши решения будут делегированы ИИ. Существуют, впрочем, физические, материальные ограничения обработки данных. Так, Фредерик Прост, известный математик и специалист по компьютерным наукам из Университета Гренобля, объяснил мне, что если бы мы захотели выстроить в ряд все числа, соответствующие 130 битам (например, от 0 до 2 в степени 130), для этого потребовалось бы больше энергии, чем есть во всей видимой Вселенной. Представление о том, что можно полностью воспроизвести нашу среду в форме единиц и нулей, является, следовательно, слишком энергозатратным. Огня десятка солнц не хватило бы для того, чтобы найти мне идеального партнера среди семи миллиардов людей.

Тем не менее глубинная логика ИИ, теорию которого разработали Канеман и Ко. и которая применяется сегодня на индустриальном уровне, состоит в том, чтобы обойти свободу воли, назойливую иллюзию растерянных западных людей.

Метаутилитаристский ветер

Итак, допустим, что ИИ пытается заранее определять наши решения. Пришло время поставить вопрос: по каким именно критериям? Каковы параметры цифровой оптимизации?

Лучший ответ на этот вопрос дает все тот же Джарон Ланье: по Кремниевой долине гуляет «метаутилитаристский ветер». На самом деле нельзя сказать, что алгоритмы лишены всякой идеологии. Их придумывают для того, чтобы повысить индивидуальное благополучие, измеряемое как разность между удовольствиями и страданиями. Подобный утилитаризм представляет собой философский выбор, для многих пользователей и потребителей определенно соблазнительный, однако он все равно остается одним вариантом из многих (например, можно представить алгоритмы, которые программировались бы так, чтобы нести нам мир, свободу или сомнение…). В этом плане Кремниевая долина — наследница Джереми Бентама, основателя утилитаризма, подспудное влияние которого на современные технологии явно недооценивается. Цифровые гиганты не придерживаются морального нейтралитета. Google, став в 2015 году компанией Alphabet, сменил свой лозунг: раньше он был вполне попперианским — «Не будь злым», а теперь стал более нормативным — «Поступай правильно». Речь уже не о том, чтобы избежать зла, а о том, чтобы творить добро. Но что это за добро в секуляризированном мире, если не максимизация счастья или по крайней мере благополучия, возведенного в высшую ценность? Кстати, могу дать вам пароль от вайфая в аэропорту Лос-Анджелеса: «happy».

Действительно, апелляция к полезности кажется бесспорной. Я осознал это, когда посетил один стартап в центре Пало-Альто, расположенный в районе, где еще сохранилось испанское очарование. Я уже не помнил, как добился встречи, и, к своему стыду, не провел никаких предварительных исследований. Знал лишь название компании, которое показалось мне довольно многообещающим, — Humanize.

Тэми, молодая соосновательница стартапа, приняла меня радушно, на шее у нее была странная белая коробочка, похожая на колокольчики, с которыми коровы и овцы пасутся на альпийских лугах. Вначале я не обратил на эту коробочку особого внимания. Тэми объяснила мне свой подход: он опирается на ее диссертацию в MIT, посвященную проблеме понимания человеческих взаимодействий. Просто замечательно, отличный проект! Сегодня же Humanize внедряет это исследование на предприятиях, чтобы лучше понять динамику взаимодействий между сотрудниками. Ужаснувшись, я начал понимать, в чем тут дело… Речь шла о квантификации времени, потраченного на разговоры с тем или иным коллегой. Никаких сомнений: колокольчик — это и есть продукт компании. В нем размещался аудиодатчик, который включался при каждом разговоре, позволяя, таким образом, оценивать прямые голосовые взаимодействия внутри организации. Благодаря Humanize болтовню возле кофеварки стало возможно учитывать в статистике производительности.

Тэми показалась мне настолько очаровательной и воодушевленной, настолько исполненной благих намерений, что я долго не решался задать ей вопрос: не является ли такая технология, если так можно выразиться, слегка интрузивной?