Искусственный интеллект – надежды и опасения

Когда Винер писал свою книгу, он опирался на относительно свежий опыт военных исследований и моральной неопределенности (как ему казалось) интеллектуальной деятельности в рамках военно-промышленного комплекса. Всего несколькими годами ранее он заявил со страниц журнала «Атлантик мансли», что не намерен «публиковать никаких будущих работ, способных нанести урон обществу стараниями безответственных милитаристов»[123]

. Он пребывал в сомнениях по поводу преобразующей силы новых технологий, не потворствовал ни развернувшейся шумихе, ни цифровому утопизму других ученых мужей.

«Прогресс не только сулит новые возможности, но и налагает новые ограничения», – предупреждал Винер. Его беспокоили, наряду с технологическими, антропогенные ограничения, в особенности кризис холодной войны, угрожавший свободе распространения информации, столь критичной для развития кибернетических систем: «Под влиянием сенатора Маккарти и его подражателей, чрезмерно широкого, почти всеохватного определения военной информации и недавних нападок на Государственный департамент мы приближаемся к засекречиванию разума, историческое подобие которого можно отыскать разве что в истории Венеции эпохи Возрождения». Вторя многим заслуженным ветеранам Манхэттенского проекта, Винер утверждал, что послевоенная одержимость секретностью – прежде всего, вокруг ядерного оружия – возникла из-за неправильного понимания научных процессов. По его словам, единственный настоящий секрет производства ядерного оружия заключается в том, возможно ли вообще создание бомб. Едва это удалось выяснить и едва состоялись бомбардировки Хиросимы и Нагасаки, никакая государственная тайна уже не помешает ученым других стран приступить к исследованиям наподобие тех, которые проводили специалисты Манхэттенского проекта. По образному выражению Винера, «для разума нет линии Мажино».

Чтобы доказать это, Винер опирался на недавние идеи Клода Шеннона по теории информации. В 1948 году Шеннон, математик и инженер, работавший в компании «БеллЛабс», опубликовал пару довольно длинных статей в «Техническом журнале» компании. Представляя новую работу широкому кругу читателей в 1949 году, математик Уоррен Уивер объяснял, что в концепции Шеннона «слово “информация”… употребляется в особом смысле, который не следует путать с обычным употреблением. В особенности не следует отождествлять информацию и смысл»[124]

. По Уиверу, «семантические» аспекты коммуникации важны для лингвистов и поэтов, но не для инженеров наподобие Шеннона. Скорее, «само слово «информация» в теории коммуникации относится не столько к тому, что действительно было сказано, сколько к тому, что могло бы быть сказано». Согласно знаменитой ныне формулировке Шеннона, информационное содержание строки символов определяется логарифмом числа возможных символов, из которых состоит данная строка. Ключевой особенностью подхода Шеннона было понимание энтропийности информации: подобно энтропии газа, это мера неупорядоченности в системе.

Винер заимствовал эту концепцию, когда писал свою книгу. Если информация подобна энтропии, ее нельзя сохранить или «законсервировать». Физика XIX столетия продемонстрировала, что совокупная энергия физической системы должна оставаться неизменной, обеспечивая идеальный баланс между началом и концом процесса. С энтропией дело обстоит иначе, она неумолимо возрастает со временем, и этот императив стал известен как второй закон термодинамики. Ввиду столь резкого различия – энергия накапливается и сохраняется, а энтропия возрастает – подразумевались последствия поистине космического масштаба. Время должно двигаться вперед, будущее не может быть тем же самым, что и прошлое. Вселенная может даже стремиться к «тепловой смерти» в некоем отдаленном грядущем, когда общий запас энергии равномерно рассеется и будет достигнуто состояние максимальной энтропии, с достижением которого дальнейшие изменения невозможны.

Если информация qua[125] энтропия не подлежит сохранению, то, по мнению Винера, со стороны военных лидеров глупо «накапливать военные и научные технологии страны в статичных библиотеках и лабораториях». Действительно, «никакой объем научных исследований, тщательно занесенный в книги и журналы, а затем переданный в библиотеки со штампом «секретно», не сможет защитить нас сколько-нибудь продолжительное время в мире, где актуальный уровень информации постоянно повышается». Винер утверждал, что любые попытки навязать секретность, утаить или придержать информацию обречены на провал, как провалились в свое время попытки изобрести вечный двигатель, опровергнутые вторым законом термодинамики.