Бог, человек, животное, машина. Поиски смысла в расколдованном мире

Конечно, куда проще свалить вину за несправедливость на плохо работающие алгоритмы, чем осмысленно бороться с тем, что они говорят о нас и нашем обществе. Во многих случаях картина, которую они рисуют, оказывается малоприятной. В качестве примера, который широко освещался в СМИ, можно вспомнить Tay – чатбота с искусственным интеллектом, выпущенного Microsoft в 2016 году. Тау была разработана для общения с людьми в Twitter и обучалась на основе взаимодействия с пользователями. Уже через шестнадцать часов она начала изрыгать расистские и сексистские оскорбления, отрицать Холокост и заявлять, что поддерживает Гитлера. Еще более показательным был случай с нейросетью, обученной на изображениях прошлых президентов США. Летом 2016 года эта нейросеть предсказала, что Дональд Трамп победит на предстоящих выборах. На протяжении нескольких месяцев этот факт приводился как иллюстрация того, что искусственный интеллект очень легко ввести в заблуждение. Как отметил за несколько дней до выборов один из исследователей Google, поскольку в наборе данных не было женщин-президентов, «ИИ не смог определить, что пол не является релевантной характеристикой для модели». Учитывая, что Хиллари Клинтон действительно проиграла на тех выборах и что дебаты вокруг них постоянно возвращались к теме сексизма и двойных стандартов, можно сказать, что догадка алгоритма была верной: пол действительно является релевантной характеристикой. Машина знала нас лучше, чем мы сами.

Для Арендт проблема заключается не в том, что мы продолжаем создавать вещи по нашему образу и подобию, а в том, что мы приписываем этим рукотворным объектам некую трансцендентную силу. Вместо того чтобы сосредоточиться на том, как улучшить жизнь с помощью науки и технологий, мы начали верить, что созданные нами инструменты могут открыть нам доступ к высшим истинам. Стремление отправить человека в космос стало для Арендт метафорой этой мечты о научной трансцендентности. Она пыталась представить, как должна выглядеть Земля и земная человеческая деятельность издалека, из открытого космоса:

Если из этой точки мы посмотрим вниз, на происходящее на Земле и на разнообразную деятельность людей (т. е. если мы приложим архимедову точку к себе самим), то вся деятельность людей действительно предстанет перед нами как всего лишь «внешнее поведение», которое можно изучать теми же методами, какими мы изучаем поведение крыс. Если взглянуть с достаточного расстояния, то автомобили, в которых мы путешествуем и которые, по нашему разумению, мы создали самостоятельно, будут выглядеть, как однажды выразился Гейзенберг, «частью нас самих, такой же неотторжимой, как раковина – от живущей в ней улитки». Все наше могущество сведется к какой-нибудь мутации людского рода, и мы уже не сможем им гордиться; вся техника, при взгляде на нее из этой точки, предстанет уже не «результатом сознательных стараний человека приумножить свои материальные способности», а, скорее, крупномасштабным биологическим процессом». При таких обстоятельствах речь и повседневный язык перестанут быть осмысленными высказываниями, которые выходят за пределы поведения, даже если всего лишь его выражают, и их с куда большим успехом заменит крайний и сам по себе бессмысленный формализм математических знаков[74].

Проблема в том, что позиция, столь далекая от человеческой природы, не может объяснить человеческую деятельность. Глядя на Землю из архимедовой точки, мы вынуждены рассматривать наши изобретения не как исторический выбор, а как часть неумолимого эволюционного процесса, который полностью детерминирован и телеологичен, совсем как история Сингулярности, популяризованная Курцвейлом.