Корпорация «Бог и голем» (сборник)

Отталкиваясь от предварительных замечаний, позвольте обратиться непосредственно к теме этой небольшой книги.

Существуют по меньшей мере три кибернетические проблемы, которые, как мне кажется, имеют непосредственное отношение к сфере религии. Первая проблема касается машин, способных к обучению; вторая – машин, способных к самовоспроизведению; третья же – проблема взаимодействия машины и человека. Могу сказать, что подобные машины существуют в действительности. Доктор А. Л. Сэмюел из компании «Интернешнл бизнес машинз корпорейшн» написал программу, которая позволяет вычислительной машине играть в шашки, и данная машина обучается – или возникает такое впечатление – играть лучше на основе накопленного опыта. В моем описании содержится ряд утверждений, которые требуют доказательства или хотя бы разъяснения; последнему отведен целый раздел моей книги.

Обучение есть свойство, или качество, которое мы часто приписываем исключительно системам, обладающим самосознанием, – и почти всегда живым системам. Это явление в наиболее наглядной форме наблюдается у человека и порождает один из тех атрибутов человечности, которые проще всего увязать с чертами личности, проявляющимися в религиозной жизни. В самом деле, трудно вообразить, каким образом существо, не способное к обучению, могло бы приобщиться к религии.

Имеется, впрочем, и другая сторона жизни, которую принято увязывать с религией. Считается, что Бог сотворил человека по Своему образу и подобию; при этом размножение человеческого рода также можно истолковывать как процесс, которым одно живое существо порождает другое по своему образу и подобию. В нашем стремлении восхвалять Бога, возвышая Его над человеком, и возвышать Человека над материей, мы, вполне естественно, допускаем, что машинам не под силу сотворять другие машины по своему образу и подобию; что налицо принципиальное различие живых и неживых систем; что указанное условие в еще большей степени связано с дихотомией между творцом и творением.

Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.

Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе

. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.

Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.

Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.

Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону[6] и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.