Эта идея должна умереть. Научные теории, которые блокируют прогресс

Каковы эти цели? Мы верим в то, что искусственный интеллект сможет стать нам другом. Что разговоры с нами станут призванием роботов, а нам будут приятны их компания и беседа.

За последние 15 лет исследований я видела, как эта надежда поддерживается и крепнет, даже несмотря на то, что у большинства людей нет опыта общения с искусственным компаньоном. Или же их опыт сводится к «разговорам» с приложениями на телефоне, такими как Siri, понимающими такие вопросы, как «Найти ресторан» или «Определить местонахождение друга». Мое исследование показывает, что даже такое простое общение заставляет нас думать о приложении как о друге, даже лучшем друге с некоторыми идеальными чертами: с ним всегда можно поговорить, он никогда не злится и его невозможно разочаровать.

Когда люди говорят о дружбе без взаимности, о друге, который всегда будет «под рукой», простые решения, достигнутые при помощи искусственного компаньона, не кажутся мне такими уж простыми. Чтобы идея об искусственном друге стала новой нормой, мы должны изменить себя, а в процессе мы изменим и человеческие ценности, и то, как устанавливаются связи между людьми. Мы меняем сами себя еще до появления разумных машин. Мы думаем, что создаем новые машины, но на самом деле мы заново создаем людей.

Искусственный интеллект

Роджер Шенк

Теоретик искусственного интеллекта; исполнительный директор компании Engines for Education. Автор книги Teaching Minds («Обучение разума»).

Да, ужасное название, но ведь и сама идея не лучше. Плохие идеи приходят и уходят, но история о том, что мы скоро научимся создавать машины, которые будут «совсем как люди», господствует в популярной культуре уже длительное время. Почти каждый год на экраны выходит новое кино с новым роботом, который «совсем как человек». Но в реальной жизни такой робот не появится никогда. И дело не в том, что искусственный разум сам по себе не работает. Просто никто толком и не пытался пока его создать.

Оксфордский физик Дэвид Дойч сказал:

Ни один мозг на Земле и близко не подошел к тому, чтобы понять, как работает мозг. Попытка добиться этого искусственным путем – в области «искусственного интеллекта» – за все шестьдесят лет существования данного научного направления не добились абсолютно никакого прогресса[66].

Дойч при этом считает, что машины, умеющие думать как человек, все же когда-нибудь появятся.

Позвольте мне взглянуть на это заявление в ином свете. Будут ли у нас когда-нибудь машины, испытывающие такие же эмоции, как человек? Если задать этот вопрос кому-то из тех, кто работает в индустрии создания искусственного разума, вам могут рассказать о том, как мы уже можем заставить компьютер смеяться, плакать или сердиться. Но в самом деле испытывать чувства?

Или давайте поговорим о способности обучаться. Компьютер ведь может обучаться, не так ли? Это и есть искусственный разум. О машине нельзя сказать, что она умна, если она неспособна обучаться. Но если машинное обучение уже позволяет научить компьютер играть в «Свою игру» или предоставлять вам данные о привычках покупателей, означает ли это, что искусственный разум вот-вот родится?

Термин «искусственный интеллект» заставил многих далеких от этой области людей воображать для него такие цели, какие перед искусственным разумом никогда не стояли. Отцы-основатели научной области искусственного интеллекта (за исключением Марвина Мински) были одержимы шахматами и решением головоломок (одной из самых популярных была «Ханойская башня»). Играющая в шахматы машина просто играет в шахматы. Она не умеет думать, и не скажешь, что у нее есть ум. И конечно, она действует не как человек. Шахматный компьютер не будет играть хуже от того, что он накануне выпил лишнего или поругался с женой.

Почему все это важно? Потому что любой проект, цель которого представляется окружающим иной, чем она есть на самом деле, обречен на провал. Основатели индустрии искусственного интеллекта и те, кто работает в ней сегодня (включая меня), хотели и хотят заставить компьютеры делать то, что они сегодня делать не могут, надеясь, что эти усилия помогут узнать что-либо новое. Или что в результате этих усилий вдруг будет создано нечто полезное. Компьютер, способный поддержать разумную беседу, потенциально может оказаться полезным. Я сейчас работаю над программой, которая будет способна вести с пользователем разумную беседу на медицинские темы. Но разумна ли эта программа? Нет. У нее отсутствует самосознание. Она не знает, что она говорит, и не знает, что она знает. Мы зациклились на глупой идее умной машины и искусственного разума, и это создает у окружающих неверное представление о реальных проблемах.