Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей

— Думаю, мы должны быть очень осторожны с искусственным интеллектом. Если бы пришлось делать прогноз относительно наиболее серьезной угрозы нашему существованию как вида, я, вероятно, назвал бы именно ИИ. Ученые все чаще считают, что на национальном и международном уровнях должен существовать какой-то надзор, чтобы мы не сделали чего-то очень глупого. Создавая искусственный интеллект, мы призываем демона. Во всех историях, где есть парень с пентаграммой и святой водой, он уверен, что сможет контролировать его. Но обычно у него ничего не получается.

Но все же, если вы считаете, что прогнозы экспертов являются надежным руководством к дальнейшим действиям, подумайте еще раз. Существуют много поразительно неверных технологических прогнозов великих экспертов. Например, в 2004 году Гейтс предсказал: «Через два года проблема спама будет решена». Маск также высказывал предположение: «Шанс, что мы не живем в компьютерном симуляторе — один на миллиард». То есть вы не реальны, вы читаете все это в Матрице. Буквально.

Реальность более банальна. Нынешние и предполагаемые умные технологии обладают интеллектом счетной доски, абака, то есть нулевым. Беда всегда является продуктом человеческой глупости или злой воли. 24 марта 2016 года Microsoft представила в Twitter Тая — говорящего робота с искусственным интеллектом. Всего через 16 часов компании пришлось удалить его. В процессе общения с людьми Тай должен был становиться все умнее и умнее. Вместо этого он быстро превратился в злого болтуна, обожающего Гитлера, отрицающего холокост, пропагандирующего инцест и провозглашающего, что «теракт 11 сентября 2001 года организовал Буш». Причина? Он функционировал как обычное кухонное полотенце, впитывающее любые отправленные ему злобные и неприятные сообщения. Microsoft пришлось извиняться.

Таково состояние искусственного интеллекта сегодня и в обозримом будущем. Компьютерам по-прежнему не удается найти стоящие рядом с ними принтеры. Тем не менее тот факт, что совершенный искусственный интеллект пока остается лишь объектом из научной фантастики, не является поводом для самоуспокоенности. Напротив, после стольких сбивающих с толку безответственных домыслов о разнообразных и самых причудливых рисках, связанных со сверхразумными машинами, пришло время включить свет, перестать тревожиться по поводу научно-фантастических сценариев и сосредоточиться на реальных и серьезных задачах, чтобы избежать болезненных и дорогостоящих ошибок при разработке и использовании «умных» технологий.

Расширяя границы возможного

Чтобы прояснить некоторые проблемы, необходимо понять один фундаментальный момент: искусственный интеллект успешен во многом из-за того, что мы строим среду, в которой умные технологии чувствуют себя как дома, а мы все больше напоминаем аквалангистов. Это мир адаптируется к ИИ, а не наоборот. Посмотрим, что это значит.

В промышленной робототехнике трехмерное пространство, задающее границы, в которых робот может успешно работать, определяется как оболочка последнего. Мы не строим дроидов вроде C‐3PO из «Звездных войн», которые бы мыли посуду в раковине точно так же, как это делаем мы. Мы подстраиваем среду вокруг простых роботов, чтобы она соответствовала их ограниченным возможностям, и используем их так, чтобы это приводило к желаемому результату. Посудомоечная машина выполняет свою задачу потому, что окружающие условия структурированы с учетом ее простых способностей. То же самое относится, например, к роботизированным полкам в Amazon. Эта среда разработана для удобства роботов. Беспилотные автомобили станут удобными в тот день, когда мы сможем создать для них подходящую окружающую обстановку.

Оболочка обычно была либо автономным явлением (вы покупаете робота с требуемыми функциями — например, с посудомоечной или стиральной машиной), либо реализовывалась в стенах промышленных зданий, тщательно подобранных для этих искусственных обитателей. Сегодня преобразование окружающей среды в удобную для искусственного интеллекта инфосферу пронизывает все аспекты реальности. Это можно видеть везде — в доме, в офисе и на улице. На протяжении десятилетий мы обволакиваем весь мир цифровыми технологиями, не реализуя их в полной мере.