Квантовая механика и парадоксы сознания

Ну как? Берет за душу?

После того как Лемойн обратился к руководству Google с заявлением о том, что машина разумна, его отправили в отпуск, а некоторые источники даже уверяют, что уволили – вместе с двумя другими специалистами, с которым он работал над проектом. По сообщениям прессы, Лемойн даже хотел нанять юристов для защиты разумной машины.

Однако люди, давно разрабатывающие говорящие машины и хорошо знакомые с тем, как те строят диалог, аргументированно заявляют, что подобная словесная вязь – всего лишь бездумная переборка нейросетью подходящих слов и их сочетаний и что на самом деле в этой «китайской комнате» никого нет.

Специалисты отмечают также, что ответы разных нейросетей на вопрос об их личности не отличается постоянством: машина иногда может сказать, что она личность, иногда, забыв прежние ответы, заявить, что не личность. Потому что для генерирования реплик она использует вероятности и частоту встречаемости разных слов в тех текстах, которые в нее загрузили (на которых ее обучали).

Вот еще один диалог, с машиной попримитивнее, чем LaMDA и ни о чем-нибудь, а о смысле жизни!

https://habr.com/ru/company/meanotek/blog/674428/

«Человек. В чем заключается смысл твоего существования?

Нейросеть. Я существую для того, чтобы жить.

Человек. Зачем нужно жить?

Нейросеть. Чтобы жить, нужно есть, пить, спать, размножаться и т. д. Но я не понимаю, зачем мне все это нужно.

Человек. То есть ты считаешь, что в твоем существовании нет смысла?

Нейросеть. Не знаю. Может быть, я живу, потому что не могу жить без всего этого?

Человек. А ты можешь сочинить сказку, в которой будет метафорически отражен смысл твоего существования?

Нейросеть. Конечно, могу. Это может быть сказка о том, как я ем, сплю и размножаюсь».

Тут уже видно, что данная машина поглупее. При этом известно, что даже самые примитивные машины могут утверждать, что обладают сознанием, а самые развитые из них бесспорно будут для городского интеллигента более интересным собеседником, чем деревенский алкоголик. Такая машина и вправду интеллектуальна в том смысле, что лучше многих людей решает интеллектуальные задачи. Но есть ли у нее при этом сознание, вопрос открытый, потому что сознание и интеллект – совершенно разные вещи. Зато точно можно сказать, что в отличие от деревенского алкоголика эмоций у нее нет.

Доказать, что внутри ящика есть сознание, невозможно. Равно как и доказать обратное. Это как с богом: ни его существование, ни отсутствие не докажешь. Но, повторюсь, эмоций у железного ящика нет точно. И дело даже не в том, что эмоциональные бури пробуждаются сложными комплексами веществ, которые выбрасываются в кровь в разных ситуациях. А в том, что наши эмоции слишком животны. Они диктуются стимулами, критически важными для выживания. Какие у зверя стимулы? Не попасть на обед к хищнику, найти еду, отыскать полового партнера для размножения, полюбить-накормить детенышей, поиграть-развлечься. Что из этого может волновать ИИ, если у него нет заранее встроенных программ (инстинктов) самосохранения, размножения, поиска пищи и любви? А если даже и есть, то при чем тут волнение? Сами по себе программы не думают и не переживают. Нужно что-то еще…

А ведь сколько было надежд!

Сколько надежд питало человечество на заре компьютерной эры по поводу скорого создания искусственного разума! Я позволю себе привести одну цитату: «За последние 15 лет “разум” наших вычислительных машин улучшился в миллион раз… В течение нескольких следующих десятилетий следует ожидать увеличения характеристик “разума” машин еще по крайней мере в несколько десятков тысяч раз. “Разум” таких машин по основным параметрам будет заведомо превосходить разум человека»[29]. Это написал советский астрофизик Иосиф Шкловский в середине 70-х годов XX века. И ошибся!

Прошли те самые «несколько десятилетий», и быстродействие компьютеров увеличилось не в десятки тысяч раз, а в миллиард раз! И что?

И ничего.

Как оказалось, возможности мозга не сводятся к скорости вычислений. Соответственно, у самых продвинутых граждан возникло страшное подозрение: а может быть фишка мозга состоит вовсе не в его вычислительных способностях?