Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Именно на этот вопрос пытается ответить Гарри Клур, появившись в затерянном кафе в пригороде Редвуд-сити, между железнодорожным переездом и шиномонтажом. У него в руках чемоданчик, которым он размахивает. Со своей взлохмаченной кудрявой гривой, широкими плечами и восторженностью энтузиаста Клур похож на золотоискателя, только что набредшего на жилу. Он перепробовал все профессии, которые изобрела Калифорния: предприниматель, изобретатель, сценарист, режиссер… Клур, имеющий хорошие связи как с Фондом X Prize, так и с голливудскими продюсерами, не сидит на месте и носится по всему кафе.

На первый взгляд трудно представить себе персонажа, более непохожего на Матье Рикара. Однако с буддийским монахом его роднит солидное научное образование: он первым в мире одновременно защитил две диссертации – первую по физике, а вторую по химии. Наш разговор меня удивил. Оправившись от шока из-за падения акций Facebook на бирже (заголовок в газете, которую он держит в руках), Гарри заговаривает более спокойным тоном. Речь не о том, чтобы изменить мир или отправить наши аватары на Марс. Наоборот, в его словах я нахожу немало моих собственных выводов об ИИ. Нет, не надо бояться сильного ИИ, или сверхинтеллекта, вслед за Илоном Маском – этим большим ребенком, путающим кино с реальностью. Нет, ИИ по природе неспособен к концептуализации, тогда как дошкольник может перенести идею «мытья» с чайной чашки на машину. Да, ИИ воспроизводит результаты человеческого мышления, но не сам процесс. Да, ИИ создает угрозу для свободы воли, управляя нашим выбором, от маршрута поездки на автомобиле до профессиональной жизни. Гарри Клур опасается последствий, которые будет иметь эта когнитивная лень для всего человечества. Когда я говорю ему о делёзовском принципе ризомы, он тут же отвечает: «Это же сорняки, их нужно выполоть». Только деревья с глубокой корневой системой способны принимать решения.

Я поддакиваю, удивленный подобным родством душ. Мы даже планируем вместе написать статью о свободе воли в век машинного обучения. Но, помимо констатации фактов, Гарри еще предлагает решение, которое он назвал «первой директивой», по мотивам «Стартрека». Нужно заметить, что в конце 1990‐х Гарри написал сценарий шести эпизодов этого культового научно-фантастического сериала, что дает ему некоторое право использовать его язык. The Prime Directive, или «первая директива», – это главный закон, регламентирующий поведение экипажа корабля. Хотя в сериале его ни разу открыто не формулировали, можно догадаться, что он устанавливает что-то вроде принципа невмешательства, запрещающего цивилизации, достигшей высокого уровня развития технологий, силой навязывать свои ценности другим (учитывая дух «Стартрека», это может быть намеком на роль США в войне во Вьетнаме). Шире, в представлении Гарри Клура, «первая директива» – это высшее правило морального порядка, ограничивающее использование технологий: правило, которое люди выбирают сами для себя и обязываются соблюдать, не требуя при этом его соблюдения от других и не возводя во всеобщий закон. Это персональная этика, более близкая к индивидуальным целям Милля, чем к категорическому императиву Канта.

Чтобы вернуть смысл ИИ, каждый должен был бы сформулировать собственную «первую директиву», заранее решив, какие нормы он хочет вменить алгоритмам, которые им управляют. Иначе говоря, надо иметь возможность применить свою моральную прерогативу, заранее определив приемлемый для себя nudge, сознательно и добровольно. Так можно вернуть способность к самостоятельному принятию решений, восстановить в себе свободного волителя. Но чтобы воспользоваться оптимизацией предпочтений при помощи ИИ, можно будет поместить свой выбор в глубины кода, как в подсознание, даже если время от времени придется к нему возвращаться. Каждый станет «понукателем» своих «понуканий», nudge: машине можно будет делегировать свои повседневные решения, но не процесс, который к ним привел…