Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Возвращаясь в тот вечер домой вместе с Альтманом, Брокман поклялся, что создаст новую лабораторию, которая, казалось, была нужна всем²⁷³. Для начала он обзвонил нескольких ведущих деятелей

²⁷⁴ в этой области, включая Йошуа Бенжио, профессора Монреальского университета, который помогал развивать движение глубокого обучения вместе с Джеффом Хинтоном и Яном Лекуном. Бенжио ясно дал понять, что по-прежнему намерен заниматься наукой в своем вузе, но составил список перспективных молодых исследователей, и, когда Брокман связался с ними и многими другими, ему удалось заинтересовать некоторых из них – тех, кто хотя бы отчасти разделял тревоги Маска в отношении угроз искусственного интеллекта. Пятеро из них, включая Илью Суцкевера, недавно стажировались в DeepMind. Их привлекла идея лаборатории²⁷⁵

, неподконтрольной крупным интернет-компаниям и, в отличие от них, совершенно свободной от стремления к прибыли. Они считали, что это лучший способ обеспечить безопасное развитие ИИ. «Мало кто из ученых задумывается о долгосрочных последствиях своей деятельности, – говорит Войцех Заремба, состоявший в числе исследователей, к которым обратился Брокман. – Я хочу, чтобы ученые серьезнее относились к возможности того, что искусственный интеллект, являясь невероятно увлекательной интеллектуальной головоломкой, может иметь серьезные негативные последствия для мира». Однако ни один из этих исследователей не был готов взяться за создание с нуля новой лаборатории – дескать, пусть это сделает кто-то другой, и тогда они подтянутся. Чтобы выйти из тупика²⁷⁶, Брокман пригласил десятерых лучших кандидатов провести осенний день на винодельне в долине Напа, к северу от Сан-Франциско. В группу входили, среди прочих, Суцкевер и Заремба

²⁷⁷, перешедший в Facebook после стажировки в Google. Брокман нанял автобус, чтобы отвезти их из своей квартиры в Сан-Франциско в этот край виноделия, и эта поездка сама по себе, как он чувствовал, помогла укрепить их великую идею. «Многие недооценивают, как это сплачивает людей²⁷⁸

, когда они вместе проводят время в ситуации, где нет никакой возможности ускорить достижение того, куда вы направляетесь, – говорит он. – Обстоятельства вынуждают вас общаться».

В долине Напа они обсуждали новую форму виртуального мира, своего рода виртуальный тренажер или игровую площадку, где интеллектуальные боты учились бы делать на персональном компьютере все то, что может делать человек. Это способствовало бы развитию методики обучения вроде той, которую использовала DeepMind, обучая нейронную сеть играть в Breakout, но в применении не только к видеоиграм, но и любым другим программным приложениям, от браузеров до Microsoft Word. Участники верили, что это путь к по-настоящему умным машинам. В конце концов, любой браузер открывает доступ ко всему интернету. И это доступ к любой машине и к любому человеку. Чтобы ориентироваться в этом мире, нужны были не только двигательные, но и языковые навыки. Это была задача, которая напрягла бы ресурсы даже крупнейших технологических компаний, но они решили справиться с ней без поддержки какой-либо коммерческой компании. Они хотели создать лабораторию, полностью свободную от корпоративного давления, некоммерческую, которая открыто делится всеми своими исследованиями, чтобы любой человек мог конкурировать со всеми гуглами и фейсбуками этого мира. В конце концов Брокман пригласил всех десятерых²⁷⁹ исследователей присоединиться к этой лаборатории и дал им три недели на размышление. Через три недели на борт поднялись девять человек²⁸⁰. Они назвали свою новую лабораторию OpenAI. «Думаю, это был нужный уровень радикализма, – говорит Суцкевер. – Мне нравится делать самые радикальные вещи. И это предприятие казалось самым радикальным из всего возможного».