Читаем Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей полностью

М. Ф.: Как вы предлагаете бороться с последствиями введения вашей технологии, особенно в условиях демократии? Достаточно посмотреть на социальные сети, с которыми возникло множество проблем. Ведь речь идет о новом уровне социального взаимодействия.

Б. Дж.: Ничего неожиданного не будет. Люди вполне предсказуемо начнут использовать новые инструменты в собственных интересах. Для заработка, получения статуса, уважения и преимущества перед другими. Это было, есть и будет… если мы не займемся улучшением себя. Если не сможем выйти за собственные пределы и сформировать человечество 3.0 или 4.0. Проблема в том, что прямо сейчас у нас нет инструментов для подобных улучшений.

М. Ф.

: Но то, что вы предлагаете, невозможно без регулирования со стороны. Потому что, скорее всего, многие не захотят повышать именно моральный уровень, если сочтут его невыгодным.

Б. Дж.: На мой взгляд, к этой проблеме нужно подходить иначе. В вашей формулировке вопроса подразумевается, что правительство – единственная группа, способная разрешить конфликт интересов. На самом деле это не так. Люди сами могут создавать сообщества для регулирования происходящего.

Во-вторых, вы утверждаете, что каждый человек имеет право сам выбирать, какой уровень морали и этики ему нужен. Но если оглянуться назад, мы увидим, что почти все биологические виды, существовавшие в течение четырех с лишним миллиардов лет, уже вымерли. Люди сейчас в трудном положении, и каждый должен это осознать.

Например, недавно вышли книги Factfulness: Ten reasons we’re wrong about the world, and Why things are better than you think

(«Фактологичность: десять причин, по которым мы ошибаемся насчет мира, и почему все лучше, чем кажется») Ханса Рослинга и The Better Angels of Our Nature: Why Violence Has Declined («Высшие ангелы нашей природы: почему насилие уменьшилось») Стивена Пинкера. В этих книгах утверждается, что по всем данным мир становится лучше, и этот процесс ускоряется. Но они не учитывают, что у людей никогда не было такой быстро развивающейся формы интеллекта, как ИИ. Не было таких разрушительных инструментов. Поэтому я не принимаю исторический детерминизм как доказательство развития человечества. Мы должны меняться.

Люди же продолжают действовать наобум. Зачастую мы обращаем внимание на то, что происходит вокруг, только после того, как наступит кризисная ситуация. Но невозможно двигаться вперед, ничего не планируя. Мы же, как вид, ничего не планируем. А уже пора задуматься, как сохранить то, что нам важно.

М. Ф.

: Давайте поговорим об ИИ в целом. Используют ли его ваши компании?

Б. Дж.: Да, компании, в которые я инвестировал, используют ИИ и машинное обучение для продвижения научных открытий, чем бы они ни занимались – разработкой лекарств, поиском новых белков или созданием физических продуктов.

Недавно Генри Киссинджер написал в журнал The Atlantic открытое письмо, где высказался, что его пугает ИИ в программе AlphaGo, который за несколько дней не просто освоил игру, но и изобрел новые ходы. Реальность Киссинджера напоминает настольную игру, ведь он был политиком во время холодной войны, когда разыгрывалась шахматная партия между США и СССР. Я же только обрадовался тому, что ИИ показывает нам вещи, которых мы не видим. Но большинство людей верит страшным прогнозам и спешат ими поделиться.

М. Ф.

: Илон Маск и Ник Бостром выражают обеспокоенность сценарием быстрого взлета и проблемой выравнивания. Они боятся, что ИИ может выйти из-под контроля. Но я слышал, что улучшение когнитивных способностей позволит нам лучше контролировать ИИ. Это действительно так?

Б. Дж.: Я благодарен Нику Бострому за то, что он вдумчиво рассуждает об опасностях, которые может нести с собой ИИ. Он инициировал обсуждения и великолепно все сформулировал. Нужно пытаться предвидеть нежелательные последствия и думать, как их не допустить.

А вот Илон Маск своими непродуманными и крайне эмоциональными высказываниями вызвал негативную реакцию и страх у людей, которые не могут разумно и аргументированно рассуждать на тему ИИ. Мне кажется, что люди, как вид, должны быть скромнее, признавать собственные когнитивные ограничения и искать способы себя улучшить. Тот факт, что пока эта задача не является приоритетной, показывает, что нам, как виду, не хватает смирения.

М. Ф.: Как вы относитесь к международной гонке вооружений в сфере ИИ? Может ли эта конкуренция привести к позитивным результатам? Нужно ли нам менять промышленную политику, чтобы не оказаться в числе отстающих?

Б. Дж.: Так устроен современный мир. Конкурируют отдельные люди и целые государства. Каждый преследует собственные интересы. И если мы не поменяем природу человека, ничего не изменится.

Перейти на страницу:

Все книги серии Библиотека программиста

Программист-фанатик
Программист-фанатик

В этой книге вы не найдете описания конкретных технологий, алгоритмов и языков программирования — ценность ее не в этом. Она представляет собой сборник практических советов и рекомендаций, касающихся ситуаций, с которыми порой сталкивается любой разработчик: отсутствие мотивации, выбор приоритетов, психология программирования, отношения с руководством и коллегами и многие другие. Подобные знания обычно приходят лишь в результате многолетнего опыта реальной работы. По большому счету перед вами — ярко и увлекательно написанное руководство, которое поможет быстро сделать карьеру в индустрии разработки ПО любому, кто поставил себе такую цель. Конечно, опытные программисты могут найти некоторые идеи автора достаточно очевидными, но и для таких найдутся темы, которые позволят пересмотреть устоявшиеся взгляды и выйти на новый уровень мастерства. Для тех же, кто только в самом начале своего пути как разработчика, чтение данной книги, несомненно, откроет широчайшие перспективы. Издательство выражает благодарность Шувалову А. В. и Курышеву А. И. за помощь в работе над книгой.

Чед Фаулер

Программирование, программы, базы данных / Программирование / Книги по IT

Похожие книги

1917. Разгадка «русской» революции
1917. Разгадка «русской» революции

Гибель Российской империи в 1917 году не была случайностью, как не случайно рассыпался и Советский Союз. В обоих случаях мощная внешняя сила инициировала распад России, используя подлецов и дураков, которые за деньги или красивые обещания в итоге разрушили свою собственную страну.История этой величайшей катастрофы до сих пор во многом загадочна, и вопросов здесь куда больше, чем ответов. Германия, на которую до сих пор возлагают вину, была не более чем орудием, а потом точно так же стала жертвой уже своей революции. Февраль 1917-го — это начало русской катастрофы XX века, последствия которой были преодолены слишком дорогой ценой. Но когда мы забыли, как геополитические враги России разрушили нашу страну, — ситуация распада и хаоса повторилась вновь. И в том и в другом случае эта сила прикрывалась фальшивыми одеждами «союзничества» и «общечеловеческих ценностей». Вот и сегодня их «идейные» потомки, обильно финансируемые из-за рубежа, вновь готовы спровоцировать в России революцию.Из книги вы узнаете: почему Николай II и его брат так легко отреклись от трона? кто и как организовал проезд Ленина в «пломбированном» вагоне в Россию? зачем английский разведчик Освальд Рейнер сделал «контрольный выстрел» в лоб Григорию Распутину? почему германский Генштаб даже не подозревал, что у него есть шпион по фамилии Ульянов? зачем Временное правительство оплатило проезд на родину революционерам, которые ехали его свергать? почему Александр Керенский вместо борьбы с большевиками играл с ними в поддавки и старался передать власть Ленину?Керенский = Горбачев = Ельцин =.?.. Довольно!Никогда больше в России не должна случиться революция!

Николай Викторович Стариков

Публицистика
100 великих угроз цивилизации
100 великих угроз цивилизации

Человечество вступило в третье тысячелетие. Что приготовил нам XXI век? С момента возникновения человечество волнуют проблемы безопасности. В процессе развития цивилизации люди смогли ответить на многие опасности природной стихии и общественного развития изменением образа жизни и новыми технологиями. Но сегодня, в начале нового тысячелетия, на очередном высоком витке спирали развития нельзя утверждать, что полностью исчезли старые традиционные виды вызовов и угроз. Более того, возникли новые опасности, которые многократно усилили риски возникновения аварий, катастроф и стихийных бедствий настолько, что проблемы обеспечения безопасности стали на ближайшее будущее приоритетными.О ста наиболее значительных вызовах и угрозах нашей цивилизации рассказывает очередная книга серии.

Анатолий Сергеевич Бернацкий

Публицистика
Преодоление либеральной чумы. Почему и как мы победим!
Преодоление либеральной чумы. Почему и как мы победим!

Россия, как и весь мир, находится на пороге кризиса, грозящего перерасти в новую мировую войну. Спасти страну и народ может только настоящая, не на словах, а на деле, комплексная модернизация экономики и консолидация общества перед лицом внешних и внутренних угроз.Внутри самой правящей элиты нет и тени единства: огромная часть тех, кто захватил после 1991 года господствующие высоты в экономике и политике, служат не России, а ее стратегическим конкурентам на Западе. Проблемы нашей Родины являются для них не более чем возможностью получить новые политические и финансовые преференции – как от российской власти, так и от ведущего против нас войну на уничтожение глобального бизнеса.Раз за разом, удар за ударом будут эти люди размывать международные резервы страны, – пока эти резервы не кончатся, как в 1998 году, когда красивым словом «дефолт» прикрыли полное разворовывание бюджета. Либералы и клептократы дружной стаей столкнут Россию в системный кризис, – и нам придется выживать в нем.Задача здоровых сил общества предельно проста: чтобы минимизировать разрушительность предстоящего кризиса, чтобы использовать его для возврата России с пути коррупционного саморазрушения и морального распада на путь честного развития, надо вернуть власть народу, вернуть себе свою страну.Как это сделать, рассказывает в своей книге известный российский экономист, политик и публицист Михаил Делягин. Узнайте, какими будут «семь делягинских ударов» по бюрократии, коррупции и нищете!

Михаил Геннадьевич Делягин

Публицистика / Политика / Образование и наука