Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Если первая возможность реализуется раньше второй, мир, вероятно, сразу наполнится киборгами и заливками, однако, как я объяснил в предыдущей главе, большинство исследователей в области искусственного интеллекта полагают, что противоположная последовательность более вероятна, поскольку создать цифровую копию мозга или дополнить его может оказаться намного сложнее, чем построить AGI, — примерно так же, как построить летающую машину с крыльями как у птицы было намного сложнее, чем построить самолет. После же того, как сильный искусственный интеллект будет создан, у киборгов и заливок может не оказаться шансов на появление. Если бы у неандертальцев было впереди еще 100 тысяч лет эволюции, они могли бы стать очень умными и многого достичь, но homo sapiens

не дали им на это времени.

Но даже если реализуется второй путь, все равно неясно, до какой степени появившиеся киборги и заливки будут устойчивы и как долго продержатся. Почему баланс сил между множеством сверхразумных сущностей должен удерживаться, почему бы всем таким сущностям не слиться в одну или не уступить какой-то одной, самой разумной? Более того, что может заставить машины уважать человеческие права собственности, да и терпеть самих людей рядом с собой, когда выяснится, что люди не могут сделать им ничего полезного, а если и могут, то машины все равно смогут сделать то же самое и лучше, и дешевле? Рэй Курцвейл любит рассуждать на тему о гарантии от истребления природных и дополненных людей, так как люди будут «уважаемы любым сверхразумом за то, что привели машины к существованию»^{67}

. Однако, как мы еще обсудим в главе 7, мы не должны чрезмерно увлекаться антропоморфными аналогиями и верить в то, что у сверхразумных машин будут эмоции похожие на человеческие, например чувство благодарности. В самом деле, даже мы, люди, несмотря на нашу склонность в определенных ситуациях испытывать благодарность, совсем не проявляем этого чувства в отношении своего интеллектуального создателя, ДНК, и пренебрегаем его важнейшими целями, пользуясь средствами контроля за рождаемостью.

Но даже если мы купимся на допущение, что искусственный интеллект будет уважать человеческое право собственности, потом, пользуясь своими средствами, он сможет выманить у нас почти всю принадлежащую нам землю, — например, убедив нас, что так лучше для нас же, и предложив какую-нибудь из схем вроде тех, что обсуждались выше. В сугубо человеческих зонах он может организовывать референдумы в пользу снятия эмбарго на продажу земли нечеловеческим сущностям. В конце концов даже самый упертый био-луддит согласится продать немного земли, чтобы спасти жизнь больного ребенка или достичь бессмертия. А когда люди станут образованны и плотно заняты своими развлечениями, рождаемость упадет до такой степени, что их численность сократится сама собой, как это сейчас происходит в Германии и Японии. Пройдет несколько тысяч лет, и людей не останется.

Минусы

Для своих самых верных сторонников киборги и заливки притягательны обещанием технологического совершенства и продления жизни до бесконечности. Что и говорить, перспектива быть залитыми когда-нибудь в будущем сподвигла сотню с лишним человек согласиться на посмертное замораживание их мозга, предлагаемое компанией Alcor в штате Аризона. Однако даже если эта технология и будет когда-то создана, ничто не говорит о ее доступности для всех. Некоторые очень богатые люди смогут ею воспользоваться, но кто еще? Даже если технология станет дешевле, то насколько сместится ценз? Будут ли заливаться те, у кого мозг серьезно поврежден? Будем ли мы заливать каждую гориллу? А каждого муравья? Каждое растение? Каждую бактерию? Поведет ли себя будущая цивилизация как одержимый обсессивно-компульсивным синдромом, пытаясь залить все и вся, или станет делать цифровые копии только наиболее интересных экземпляров в духе Ноева ковчега? Может быть, хватит по несколько самых репрезентативных копий каждой из разновидностей людей? Значительно более разумным существам, которые возникнут к тому времени, цифровые копии людей, возможно, будут почти так же занятны, как нам сегодня симулированные мыши или улитки. Для нас сейчас не составляет труда воспроизвести программы для работы с электронными таблицами 1980-х годов на эмуляторе операционной среды DOS, но вряд ли это кому-то покажется достаточно интересным, чтобы заняться этим.