Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей

В 1940-х и 1950-х годах компьютер занимал целую комнату, и, чтобы работать, Алисе приходилось заходить внутрь него. Программирование производилось при помощи отвертки. Взаимодействие человека и компьютера было похоже на соматические или физические отношения. В 1970-х дочь Алисы вышла из компьютера и встала перед ним. Взаимодействие человека и компьютера стало семантическим отношением, чему позже поспособствовали DOS (дисковая операционная система), взаимодействие при помощи текстовых команд, GUI (графический пользовательский интерфейс) и иконки. Сегодня внучка Алисы снова вошла в компьютер, представляющий собой целую инфосферу, которая окружает девочку — порой даже незаметно для нее. Взаимодействие человека и компьютера снова стало соматическим: с сенсорными экранами, голосовыми командами, прослушивающими устройствами, чувствительными к жестам приложениями, данными для определения местоположения и т. д.

В такой дружественной для искусственного интеллекта инфосфере нас регулярно просят доказать, что мы люди — для чего разгадать так называемую «капчу» (CAPTCHA, аббревиатура английской фразы «полностью автоматизированный публичный тест Тьюринга, определяющий, где компьютер, а где — человек»). Тест представляет собой слегка измененные буквы, иногда фрагменты изображений, иногда то и другое вместе. И при регистрации новой учетной записи, например в Википедии, мы должны дать правильный ответ, чтобы доказать: мы — люди, а не программы. Иногда это просто рамка с надписью: «Я не робот» и кнопкой подтверждения. Программы не могут поставить в ней галочку, поскольку не понимают это сообщение, люди же находят задачу тривиальной.

Каждый день в Интернет выходит все больше людей, он связывает все большее количество документов, инструментов, взаимодействующих друг с другом устройств, датчиков, RFID-меток, спутников, приводов, данных. Иными словами, постоянно расширяется пространство, приспособленное для нужд компьютеров, а не людей. Все больше рабочих мест и видов деятельности становятся цифровыми по своей природе: игры, обучение, развлечения, знакомства, встречи, борьба, лечение, сплетни, реклама. Мы делаем все это и многое другое в инфосфере, где все больше напоминаем гостей, а не хозяев. Это хорошая новость для будущего ИИ и умных технологий в целом. С каждым шагом они будут становиться экспоненциально полезнее и успешнее. Ведь они — настоящие «цифровые аборигены». Однако преобразование мира в оболочку ИИ — это процесс, связанный с серьезными проблемами. Некоторые — например, «цифровая пропасть» — хорошо известны и очевидны; другие менее заметны и не так известны.

Брак, заключенный в инфосфере

Представьте себе двух людей — назовем их И и Л. Они женаты и хотят, чтобы их отношения были успешными. И — более активный, он непреклонен, упрям, нетерпим к ошибкам и вряд ли изменится. Л — полная его противоположность, но постепенно становится все ленивее и зависимее от И. То есть возникает дисбаланс, при котором И в конце концов формирует отношения под себя, меняя поведение Л — возможно, он даже с самого начала планировал это сделать. Если брак сохраняется, то лишь потому, что все очень тщательно подогнано под желания И.

В этой аналогии искусственный интеллект и «умные» технологии играют роль партнера И, в то время как люди явно оказываются на месте партнера Л. Риск, которому мы подвергаемся, заключается в том, что, подстраивая мир под себя, технологии могут формировать нашу физическую и концептуальную среду и сдерживать нашу способность приспособиться к ним, поскольку это лучший или самый простой (а иногда — единственный) способ заставить все работать. Ведь ИИ — это глупый, но трудолюбивый супруг, а человечество — умный, но ленивый. Так кто к кому будет приспосабливаться, учитывая, что развод невозможен? Вы наверняка вспомните много эпизодов из реальной жизни, когда «договориться» с компьютером либо не получалось вообще, либо только каким-нибудь громоздким или нелепым образом, который оказывался единственным способом заставить электронную систему сделать то, что необходимо. «Компьютер говорит „нет“, — сообщает персонаж Кэрол Бир в английском комедийном скетче „Маленькая Британия“ на любой запрос клиента.

Очень важно, что все большее присутствие в нашей жизни все более умных технологий оказывает огромное влияние на наше представление о себе и о мире, а также на взаимодействие с последним. В связи с этим важно не начать думать, что машины обладают сознанием или умом или способны понимать или знать что-то так же, как мы. Они этого не могут.