Искусственный интеллект – надежды и опасения

Если движение творцов действительно является провозвестником третьей цифровой революции[135], успехи проектировщиков ИИ в достижении многих первоначальных целей этой революции можно рассматривать как итог первых двух цифровых переворотов. Может показаться, что производство машин и машинное мышление никак не связаны между собой, но они составляют будущее друг друга. Те же тенденции масштабирования, которые сделали возможным появление ИИ, позволяют предположить, что нынешняя одержимость ИИ есть преходящий этап, и за ним наступит новая фаза, намного более важная, – слияние искусственного и естественного интеллекта.

Развитие атомов ведет к формированию молекул, развитие молекул – к формированию органелл, развитие органелл – к формированию клеток, развитие клеток – к формированию органов, развитие органов – к формированию организмов, развитие организмов – к формированию семей, развитие семей – к формированию общества, а развитие общества – к формированию цивилизаций. Эта великая эволюционная петля может замкнуться, когда атомы станут управлять битами, управляющими атомами.

Глава 17

Первый машинный интеллект

У. Дэниел (Дэнни) Хиллис

изобретатель, предприниматель и компьютерный теоретик, профессор инженерии и медицины в университете Южной Калифорнии, автор книги «Узор на камне: простые идеи, которые заставляют работать компьютеры».

Еще будучи студентом Массачусетского технологического института, Дэнни Хиллис создал компьютер из деталей «Тинкертойз»

[136]. Тот насчитывал около 10 000 деревянных деталей, играл в крестики-нолики и никогда не проигрывал; сейчас он находится в Музее компьютерной истории в Маунтин-Вью, штат Калифорния.

Аспирантом и сотрудником лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института в начале 1980-х годов Дэнни разработал компьютер с массивно-параллельной архитектурой на 64 000 процессоров. Он назвал этот агрегат машиной связи и основал первую, возможно, компанию в области ИИ – «Thinking Machines Corporation» – для производства и продажи этого устройства. Причем его ничуть не смутил ланч с Ричардом Фейнманом, на котором знаменитый физик заметил: «Это, безусловно, самая глупая идея, которую я когда-либо слышал». Пожалуй, выражение «не смутил» не вполне корректно, ведь Фейнман славился своим интересом к глупым идеям. К слову, Фейнман пришел на торжество по поводу регистрации компании, сотрудничал с ней летом, брался за специальные задания и внес неоценимый вклад в ее работу.

С тех пор Дэнни основал целый ряд технологических компаний, последняя из которых, «Applied Invention», сотрудничает с коммерческими предприятиями в разработке технологических решений для преодоления конкретных проблем. Он владеет сотнями патентов на параллельные компьютеры, сенсорные интерфейсы, дисковые массивы, методы предотвращения подделок и множество электронных и механических устройств. Его воображение, по-видимому, безгранично, и в очерке ниже он намечает некоторые возможные сценарии, результат нашего стремления к бесконечному улучшению ИИ.

«Наши мыслящие машины[137] – не просто метафора, – говорит он. – Вопрос не в том, окажутся ли они достаточно могущественными для того, чтобы причинить нам вред (наверняка), или всегда будут действовать в наших лучших интересах (вряд ли), а в том, смогут ли они в долгосрочной перспективе помочь нам отыскать правильный путь и вырваться из континуума Панацеи и Апокалипсиса».

«Я рассуждал о машинах, но не только о машинах с медными мозгами и мускулами из железа. Когда человеческие атомы сплачиваются в организацию, в которой они используются не в соответствии со своим назначением, как разумные человеческие существа, а подобно зубцам, рычагам и стержням, не имеет большого значения то обстоятельство, что их «сырьем» послужили плоть и кровь. Нечто в качестве элемента машины есть фактически элемент машины. Доверяем ли мы наши решения машинам из металла или тем машинам из плоти и крови, которые организуются в бюро, крупные лаборатории, армии и корпорации, нам никогда не получить верного ответа на свои вопросы, пока мы не начнем задавать правильные вопросы… Час почти пробил, выбор между добром и злом стоит у нашего порога».

Норберт Винер. «Человеческое применение человеческих существ»