Искусственный интеллект – надежды и опасения

Сложное культурное знание, подразумеваемое такой формой подражания, должно было считаться чрезвычайно полезным. Это способствовало быстрой анатомической эволюции, включавшей увеличение объема памяти и появление более гибкого (менее жесткого) скелета, соответствующих более зависимому от технологий образу жизни. Ни одна обезьяна – речь не о человекообразных – не обладает такой способностью имитировать новые сложные формы поведения. Как и любой современный искусственный интеллект. Зато наши доразумные предки ею обладали.

Любая способность, основанная на угадывании, должна опираться на некие средства корректировки сделанного, поскольку большинство догадок поначалу окажутся ошибочными. (Способов ошибиться всегда намного больше, чем правильных.) Байесовское обновление не годится, потому что оно не способно генерировать новые догадки о цели действий и позволяет лишь уточнять уже сделанные – в лучшем случае, выбирать среди них. Необходимо творчество. Как объяснял философ Карл Поппер, творческая критика, чередующаяся с творческими догадками, есть тот способ, каким люди изучают поведение друг друга, в том числе язык, и извлекают смысл из высказываний друг друга[103]

. Кроме того, посредством подобных процессов создаются все новые знания: именно так мы постигаем новшества, делаем успехи и обеспечиваем абстрактное понимание как таковое. Вот интеллект человеческого уровня: мышление. Таково должно быть свойство, которое мы приписываем общему искусственному интеллекту (ОИИ). Далее я буду употреблять термин «мышление» для характеристики процессов, которые порождают понимание (объяснительное знание). Утверждение Поппера подразумевает, что все мыслящие сущности – человеческие или нет, биологические или искусственные – должны создавать такие знания принципиально одинаковым образом. Следовательно, понимание любой сущности требует традиционно человеческих понятий, таких как культура, творчество, непослушание и мораль, что оправдывает использование единого обозначения «люди» применительно ко всем упомянутым сущностям.

Неправильные представления о человеческом мышлении и происхождении человека чреваты соответствующими неправильными представлениями об ОИИ и способах его создания. Например, обычно предполагается, что эволюционное давление, породившее современных людей, обеспечивалось преимуществом наличия продолжавшего совершенствоваться стремления к инновациям. Но, будь это так, наблюдался бы быстрый прогресс при появлении мыслителей – как, мы надеемся, произойдет, когда будет сотворен искусственный разум. Если мышление обычно использовалось для чего угодно, кроме подражания, оно использовалось бы и для инноваций, пусть даже по случайности, а инновации создавали бы возможности для дальнейших инноваций в геометрической прогрессии. Но вместо этого, как известно, налицо сотни тысяч лет относительного застоя. Прогресс растягивался на сроки, намного превышающие продолжительность человеческой жизни людей, поэтому в текущем поколении никто не мог извлечь из него выгоду. Значит, преимущества дара к инновациям оказывали незначительное или вовсе нулевое эволюционное давление в ходе биологической эволюции человеческого мозга. Эта эволюция была обусловлена преимуществами сохранения культурных знаний.

Уточню – преимуществами для генов. Культура той эпохи была одновременно благословением и проклятием для отдельных людей. Их культурные знания действительно были достаточно качественными для того, чтобы возвыситься над прочими крупными живыми организмами (они быстро стали главными хищниками планеты), пускай эти знания оставались чрезвычайно примитивными и изобиловали опасными ошибками. Но ведь культура состоит из передаваемой информации – мемов[104], и эволюция мемов, подобно эволюции генов, способствует передаче сведений с высокой точностью. А передача «высокоточного» мема обязательно влечет за собой подавление попыток прогресса. Таким образом, ошибочно рисовать себе пасторальное общество охотников-собирателей, которое у ног старейшин заучивало наизусть племенные предания, довольствовалось жизнью, полной страданий и изнурительного труда, и ожидало смерти в молодом возрасте от какой-то кошмарной болезни или паразита. Даже если люди той эпохи не представляли себе ничего лучше такой жизни, мучения были наименьшей из их проблем. Подавление стремления к инновациям в человеческих умах (не убивая людей) – этого можно добиться только осознанными действиями, которые никак нельзя одобрить.