Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Во-вторых, следует оспорить миф о том, что интеллект большого количества людей в интернете может превышать интеллект одного человека. Как сказал Джарон Ланье, это фетишизирует мощь группы и преуменьшает роль и ответственность личности. Он полагает, что сети все чаще считаются более важным объектом, чем отдельные люди – это приводит к тому, что люди больше заботятся об абстрактных сетях, чем о реальных людях. Крайне целесообразно в контексте сильно завышенной оценки потенциала вычислительной техники и автоматизированных систем в целом вести себя интеллектуально и этически как достойные человеческие существа.

В-третьих, крупные технологические компании, такие как Amazon, Google, Facebook, Uber, и Twitter, должны рассматриваться в качестве базовых сервисов и относиться к коммунальным услугам. Сегодня они часто ведут себя как обидчивые подростки, практически не выказывающие никакого уважения к власти и управляющим органам. Как полагает Эндрю Кин, «активно действующее законодательство является наиболее эффективным способом сделать интернет лучше и справедливее». Технологических гигантов необходимо заставить уважать законы, внедрить профсоюзы и полностью выплачивать надлежащие налоги. Если же они этого не сделают или будут злоупотреблять своим монопольным положением, их следует расформировать. С великой силой приходит и великая ответственность.

В-четвертых, если человек создает что-то ценное в цифровой сфере, даже если он просто ходит, оставляя за собой цифровой след, это должно быть ему компенсировано. Микроплатежи за микроконтент – еще один момент, активно пропагандируемый Джароном Ланье, и я его полностью поддерживаю.

В-пятых, человеку должно быть предоставлено право быть забытым. Если кто-то сделал что-то не так в сети и заплатил за это, он должен иметь право удалить свои цифровые записи, особенно если он еще молод. Это может стимулировать большее число экспериментов и выступать достойным противовесом конформизму. Но мы также должны поощрять людей помнить. С нашими постоянно обновляемыми стенами Facebook и графиками Twitter привычка оглядываться назад вышла из моды. Мы не только страдаем от потери великих понятий и человеческих стратегий, но и от забвения исторического контекста. Как отмечает все тот же Эндрю Кин, это означает, что у нас развивается «амнезия, касающаяся всего, кроме непосредственного, мгновенного «сейчас». Мы должны восстановить давнее прошлое, которое может помешать нам из раза в раз повторять досадные ошибки.

Тревожный пример исторической амнезии и отсутствия элементарной порядочности – это «селфи» в значимых местах. Барак Обама и Дэвид Кэмерон сделали селфи на похоронах Нельсона Манделы. Подростки, посетившие Освенцим и сделавшие селфи перед ржавым знаком на воротах с надписью «Arbeit Macht Frei» («Труд освобождает»), явно не имеют понятия, что представляют собой эти ворота и куда они ведут, и это подтверждает мою точку зрения о бессодержательной пустоте, в которой живут некоторые люди.

И наконец, мы должны быть бдительны в отношении угрозы вымирания всего человечества.

Пересмотр трех законов Азимова

Маловероятно, что на Земле появится некая другая форма разума, способная стать для нас прямой угрозой, потому что для этого мы должны создать для машин сознание и, возможно, систему самовоспроизводства. Но тем не менее нам следует быть готовыми. У нас есть протоколы по урегулированию ядерной, биологической и химической угроз, так почему бы не расширить их, чтобы предусмотреть возможность угрозы со стороны полностью сознательных машин?

Соглашений о том, где, когда и зачем используются автономные цифровые системы, не требуется. Изменение трех законов роботехники, предложенных Айзеком Азимовым в 1942 году, может быть хорошим стартом, хотя я бы сосредоточился на невидимой угрозе автоматизации в той же степени, как на предполагаемой угрозе появления роботов-убийц.

Законы Азимова требуют, чтобы робот (1) защищал людей, (2) исполнял приказы человека (если это не идет вразрез с первым законом) и (3) защищал свое существование (если это не вступает в противоречие с первым или вторым законами). Я предлагаю, чтобы эти законы были обновлены, расширены и переделаны таким образом, чтобы применяться ко всем роботам, автономным машинам и экспертным системам.