Эта идея должна умереть. Научные теории, которые блокируют прогресс

1. Программное обеспечение соотносится с внешним миром принципиально другим способом в сравнении с человеческим разумом. ПО легко перемещается с одного цифрового устройства на другое, а разум каждого отдельного человека (во всяком случае, пока что) – это свойство его собственного уникального мозга. Отношения между ПО и миром в целом условны, их определяет программист. Отношения между разумом и миром – это выражение личности и природы человека, никто не может их переделать.

Бывают компьютеры без ПО, но не бывает мозга без разума. Софт работает «прозрачно». Я могу точно узнать, что происходит в программе в любой момент времени. Разум «непрозрачен» – я не могу узнать ваши мысли, если только вы их мне не изложите. Компьютер можно «почистить», а разум – нет. Мы можем настроить компьютер точно на то действие, которое нам нужно, а разум – нет. И так далее. Куда бы мы ни посмотрели, везде мы находим фундаментальные различия.

2. Великая аналогия предполагает, что разум – это машина, виртуальная машина. Но у разума есть две одинаково важные функции: делать и быть. Машины же могут только делать. Мы создаем машины, чтобы они делали что-то за нас. Разум устроен по-другому: ваш разум может быть в покое, не делать

(не вычислять) ничего – но вы можете при этом чувствовать себя несчастным или одухотворенным, вы можете, по меньшей мере, осознавать себя, то есть быть в сознании.

Эмоции вообще не являются действием, это способы бытия. И эти эмоции играют важную роль в когнитивной работе мозга. Они позволяют вам, к примеру, почувствовать, как достичь поставленной когнитивной цели – «…и тотчас отошел к окну, чтобы успокоиться и сообразить, как ему лучше вести себя с нею» (Джейн Остен, «Доводы рассудка»[70]).

Мысли содержат информацию, но чувства (скажем, мечтательная задумчивость теплым летним утром) не содержат информации. Мечтательность – это просто состояние бытия.

Пока мы не поймем, как заставить компьютер чувствовать (то есть осознавать себя через чувства), мы не имеем права говорить о предполагаемой аналогии между разумом и мозгом, софтом и компьютером. Те, кто полагает, что чувствующие компьютеры – это невероятно, иногда слышат: «Вы утверждаете, что миллиарды малюсеньких, бессмысленных компьютерных команд, которые не способны чувствовать, никогда не создадут систему

, которая может чувствовать. Ваши нейроны тоже малы, „бессмысленны“ и ничего не чувствуют – но 100 миллиардов из них и составляют ваш чувствующий мозг». Но это несерьезно: 100 миллиардов нейронов создают мозг, который служит инструментом для разума, но 100 миллиардов песчинок или использованных покрышек не создают никакой новой сущности. Вам нужно организовать определенным способом нужные частицы, чтобы породить чувства.

3. Взросление – естественный процесс для развития человеческого существа. Типы социального взаимодействия и структура тела меняются со временем, и эти изменения очень тесно связаны. К маленькому ребенку, уже умеющему ходить, относятся иначе, чем к новорожденному младенцу. Ни у одного робота не появится человеческого разума, если только он не сможет расти и меняться физически, взаимодействовать с обществом по мере роста. Но даже если мы сфокусируемся на статике, моментальном снимке разума, для человеческого разума нужно тело. Телесные ощущения создают состояния мозга, которые запускают физические изменения, а те, в свою очередь, меняют ментальное состояние. Петля обратной связи. Вам неудобно, вы покраснели; почувствовав это, вы смущаетесь еще больше. И краснеете еще больше.

Мы думаем не только нашим мозгом. Мы думаем мозгом и телом одновременно. Мы можем симулировать тело при помощи программного обеспечения, но симулированное тело не может взаимодействовать с человеком по-человечески. А для того, чтобы стать мыслящим человеком, нам нужно взаимодействовать с другими людьми.