Виртуальный ты. Как создание цифровых близнецов изменит будущее человечества

В биологии тоже есть неисчислимые процессы. По мнению британского лауреата Нобелевской премии и математика Роджера Пенроуза, сознание не занимается исчислениями: мы сами можем сделать вывод об истинности или ложности утверждений, которые лежат за пределами досягаемости алгоритмов – наше мышление содержит неалгоритмические и неисчислимые ингредиенты[103]. В борьбе за разработку общего искусственного интеллекта это замечательное открытие, опубликованное в книге «Новый ум короля» 1989 г.[104], было тихо проигнорировано.

Дополнительное понимание ограничений алгоритмического мышления пришло от Стюарта Кауфмана и его коллег из Института системной биологии в Сиэтле[105]. Люди могут использовать ситуативное рассуждение – они принимают точки зрения, выбирают цели и могут справиться с информацией, которая является нерелевантной, неполной, двусмысленной и/или противоречивой. Они способны видеть «аффордансы» (возможности) в своем окружении. Люди видят или переживают что-то, получая смутное понимание предназначения вещи или явления. Блок цилиндров двигателя может привести автомобиль в движение, но человек знает, что он также может послужить «причудливым (но эффективным) пресс-папье».

Команда утверждает, что ключевое различие между следующими правилам машинами Тьюринга и нами заключается в том, что алгоритмы не могут идентифицировать и использовать новые возможности. Одна из причин успеха ИИ заключается в том, что он создан для конкретной задачи или цели. Но, как обнаружил Гёдель на примере математики, всегда будут аспекты человеческого интеллекта, которые не могут быть охвачены формальной моделью, основанной на правилах: «Выявление и использование аффордансов выходит за рамки алгоритмических вычислений». Чтобы конкурировать с людьми, общему искусственному интеллекту нужно нечто большее, чем просто индукция, дедукция и абдукция, и он «должен знать, чего хочет, следовательно, должен быть способен вообще чего-то хотеть». Когда дело доходит до опасений, что развитие общего ИИ может поставить под угрозу само наше существование, ученые приходят к утешительному выводу: «Ни одна машина не захочет заменить нас, поскольку ни одна машина ничего не захочет, по крайней мере, в нынешних алгоритмических рамках определения машины».

Проблема цифровых компьютеров

Есть еще одна проблема, связанная с цифровыми компьютерами и поднятая в работе Тьюринга: числа, которыми эти компьютеры манипулируют. То, что Тьюринг называл «вычислимыми числами», – это те числа, с которыми может справиться машина Тьюринга. К ним относятся рациональные числа, повседневные числа, которые можно увидеть на ценниках, размерах обуви, рецептах и многом другом, например целые числа (включая отрицательные), а также дроби, которые можно выразить как отношения целых чисел.

Но есть еще класс иррациональных чисел, которые нельзя выразить как отношение двух целых чисел. Примеры иррациональных чисел: π, длина окружности диаметром 1 (единица) и e – число Эйлера, которое используется в логарифмах, для вычисления сложных процентов и повсеместно встречается в науке и технике. Хотя некоторые иррациональные числа – например, π или квадратный корень из 2 – можно вычислить с помощью алгоритма с любой степенью точности, подавляющее большинство иррациональных чисел неисчислимы.

Это проблематично, поскольку в море всех возможных чисел количество вычислимых рациональных чисел бесконечно мало. Да, существует множество рациональных чисел, которые «исчислимы», но со времен немецкого математика Георга Кантора (1845–1918) мы знаем, что множество иррациональных чисел бесконечно в более широком смысле, будучи «неисчислимо бесконечным».

Открытия Кантора встретили враждебность со стороны его коллег, даже со стороны христианских богословов, которые видели в них вызов Богу. Напротив, Кантор (как и другие до и после) думал, что он действительно увидел разум Бога[106]. Его работа, уже давно признанная, показывает, что, манипулируя только вычислимыми числами, цифровые компьютеры могут пренебречь более богатыми и глубокими возможностями, открывающимися при использовании бесконечно большего набора невычислимых чисел. Если внимательно посмотреть на цифры, населяющие цифровые компьютеры, вас ждут новые потрясения.

Флопсы