Искусственный интеллект – надежды и опасения

Изучая историю науки, Питер Гэлисон уделяет особое внимание той области, где, образно выражаясь, теория пересекается с экспериментом.

«Довольно много лет я руководствовался в своей работе странным противостоянием абстрактных идей и чрезвычайно конкретных объектов», – сказал он мне однажды, стараясь объяснить свой образ мышления. На встрече в Вашингтоне, штат Коннектикут, он рассуждал о напряженности времен холодной войны между инженерами (наподобие Винера) и администраторами Манхэттенского проекта (тем же Оппенгеймером): «Когда [Винер] предупреждал об опасностях кибернетики, отчасти он пытался оспорить те зловещие формулировки, которыми пользовались люди вроде Оппенгеймера. Помните: «Если сияние тысячи солнц вспыхнуло бы в небе, это было бы подобно блеску Всемогущего… Я стану смертью, Разрушителем Миров». Уверенность в том, что физика вправе говорить с природой о Вселенной и мощи ВВС, одновременно отталкивала и манила. В некотором смысле мы наблюдаем то же самое снова и снова в последние десятилетия – нанотехнологии, рекомбинантная ДНК, кибернетика; я извещаю о пришествии науки, которая сулит спасение и гибель, а вы должны прислушаться ко мне, поскольку она может погубить вас. Этот искушающий, если угодно, нарратив сегодня воспроизводится также в области искусственного интеллекта и робототехники».

Мне было двадцать четыре года, когда я впервые познакомился с идеями Винера и встретился с его коллегами в Массачусетском технологическом институте, о чем рассказывалось во введении; в ту пору меня почти не интересовали предупреждения и тревоги Винера. Меня привлекали его строгие, даже радикальные взгляды на жизнь, обусловленные математической теорией коммуникаций, в которой сообщение являлось нелинейным. Согласно Винеру, «новые концепции коммуникации и управления подразумевают новую интерпретацию человека, человеческого познания Вселенной и общества». Из этого родилась моя первая книга, где теория информации – математическая теория коммуникации – трактовалась как модель всего человеческого опыта.

В недавнем разговоре Питер сказал мне, что начинает писать книгу – о конструировании, досадных помехах и мышлении, – в которой намерен изучить природу кибернетики как «черного ящика» и способы кибернетической репрезентации, цитирую, «фундаментальной трансформации познания, машинного обучения, кибернетики и человека».

Во второй из своих лучших книг[177]

великий средневековый математик аль-Хорезми описал новую местную форму индийской арифметики. Его имя, вскоре по созвучию соотнесенное с «algorismus» (на позднесредневековой латыни), стало обозначать процедуры, применяемые к числам, – в конечном счете проникнув в форме «алгоритм» (по модели слова «логарифм») во французский и далее в английский языки. Лично мне нравится идея о сообществе современных алгористов, пусть спеллчекер исправно подчеркивает это слово. Для меня алгорист – это человек, исполненный подозрительности в отношении человеческих суждений, считающий, что эти суждения нарушают фундаментальные нормы объективности (и, следовательно, научности).

Ближе к концу XX столетия два психолога из университета штата Миннесота обобщили в своей статье обширный список литературы по темным водам предсказаний. С их точки зрения, одна сторона конфликта слишком долго, решительно – а потому аморально – придерживалась «клинического метода» прогнозирования, превозносившего все субъективное, «неформальное», «умозрительное» и даже «импрессионистское». К числу таких «клиницистов» принадлежали люди (так писали психологи), которые полагали, что могут тщательно изучать свои дисциплины, учреждать всевозможные комиссии и делать основанные на суждениях прогнозы о криминальных рецидивах, успехах обучения, медицинских результатах и т. п. Другая сторона конфликта, продолжали психологи, охватывала все, что отвергали «клиницисты»; ее сторонники ориентировались на формализм, механистичность и алгоритмы. Эти авторы видели в перечисленном триумф постгалилеевской науки. Последняя не просто извлекала пользу и выгоду из актуарного; в значительной степени она была механо-актуарной. Изучив 136 исследований по предсказаниям во всех областях, от вынесения приговоров до психиатрии, психологи показали, что в 128 работах прогнозы с использованием актуарных таблиц, уравнений множественной регрессии или алгоритмических циклов как минимум совпадали, а в основном превосходили по точности предсказания на основе субъективного подхода.