Я познаю мир. Компьютеры и интернет

«Некоторые коллеги бешено завидуют мне, – говорит профессор, – и сами не против обзавестись такими микрочипами. Но другие пока опасаются. Если честно, тут есть еще повод для раздумий и опасений...»

Страшный прогноз

Свои мысли профессор обстоятельно изложил в книге «March of the machines» («Наступление машин»). Начинается она довольно мрачно. «В 2050 году людям живется безумно тяжело... Роботы используют людей как подсобную рабочую силу, которую содержат в специальных лагерях, разбросанных, подобно ГУЛАГу, по всей территории Земли. Там тусклый искусственный свет, там едва топят – лишь для того, чтобы люди не погибли от холода, и, конечно, никаких признаков комфорта в нашем прежнем понимании».

В эти лагеря люди возвращаются с работ только для того, чтобы спать, – поскольку даже машины понимают, что их «рабам» необходим отдых для восстановления сил. Однако время его неуклонно сокращается, поскольку ведутся эксперименты над человеческим мозгом, чтобы перевести людей в состояние непрерывного бодрствования. Роботов совершенно не волнует, что продолжительность человеческой жизни при этом резко сокращается – редко кто дотягивает до 30 лет. Убыль восполняется на фермах по выращиванию людей. Там держат женщин на регулярном искусственном осеменении и заставляют их рожать по ребенку в год.

Пол каждого ребенка, уровень его умственного развития строго контролируется. Вскоре после рождения младенцев оперируют, удаляя те части тела и зоны мозга, которые, по мнению машин, при выполнении конкретной работы, для которой предназначен данный раб, не нужны.

Используют же людей для ухода за устарелыми роботами, добычи полезных ископаемых, разведки в труднодоступных районах планеты, куда еще не проложены дороги, удобные для машин, да для охоты за себе подобными – теми, кто не захотел подчиниться машинному контролю...

Как же люди попали в рабство? Оказывается, не зря говорят, что благими намерениями устлана дорога в ад... Инженеры старались создавать все более совершенных роботов. И в конце Х%. века какой–то умник предложил делать машины адаптирующимися к внешним условиям, то есть самообучающимися. В итоге последовал всплеск развития машинного интеллекта. Кибернетический мозг сначала сумел обыграть в шахматы чемпиона мира среди людей, а потом, поняв, что существа, равного ему по интеллекту, на Земле уже не осталось, перестал подчиняться командам людей и, в свою очередь, подчинил себе другие машины. Произошел бунт киберов, на сторону которых перешли военные роботы, и люди попали примерно в такое же положение, на каком в наши дни находятся домашние животные.

Три правила никуда не годятся?

Когда же профессора спросили, почему, по его мнению, роботы не будут выполнять правила роботехники, в которых записано, что киберы не могут причинять вреда людям, он ответил так:

«Правила были придуманы человеком, а именно Айзеком Азимовым. Но это вовсе не значит, что машины будут жить по нашим законам. Упустить же их из подчинения довольно легко. Ведь уже сегодня мы разрабатываем модели адаптивных роботов и ныне уже достукались до того, что кибер обыграл в шахматы Гарри Каспарова...»

Вводить запрет на подобные работы бесполезно, продолжал профессор. Всегда найдется какой–нибудь «гений», который втихомолку будет создавать армию всемогущих киберов, стремясь подчинить мир себе. Но для того чтобы одолеть людей, надо стать умнее их – ведь само человечество выжило, победило всяких там саблезубых тигров и пещерных медведей прежде всего силой своего ума, но отнюдь не мускулов.

Рано или поздно создателю кибернетического воинства придется дать ему волю, ввести принципы самопрограммирования, самообучения... А почувствовав, что она стала смышленнее своего хозяина, машина вряд ли захочет ему подчиняться.

Такой сюжет тоже описан в фантастической литературе. Вспомните хотя бы бунт кибера HALa на страницах книги «2001: космическая одиссея», написанной соотечественником профессора Уорвика – Артуром К. Кларком.

Кибернетический штурман HAL–9000 решил, что он умнее всего экипажа космического корабля «Дискавери», и избавился практически ото всех, за исключением пилота Дейва. Человеку все–таки удалось победить машину. Но какой ценой?..

Микрочип под кожей

Конечно, Артур Кларк несколько сгустил краски, поторопил события. Об этом можно судить хотя бы потому, что, согласно сюжету романа, HAL был построен в 1997 году, а запуск космолета на Юпитер должен состояться в 2001 году. Однако ни того, ни другого пока не предвидится.

Возможно, преувеличивает и сам профессор Уорвик – к 2050 году компьютеры все еще будут отставать по уровню развития от людей. Но сам факт, что ЭВМ все–таки прогрессируют куда быстрее людей, не может не вызвать опасения. А вдруг?..