Путь к сути вещей: Как понять мир с помощью математики

У каждого критерия свой коэффициент взвешенности. Могу поспорить, что у критерия «имеет хобот» он высокий. Каждую секунду ваш слоновый нейрон вычисляет «шкалу слоновости», добавляя коэффициенты критериев, чьи нейроны активированы.

Когда уровень на этой шкале превышает определенную пороговую отметку, нейрон решает, что вы имеете дело со слоном. Ниже этого порога располагается сначала серая зона, где вы не вполне уверены, что это слон (но у кого-то другого может быть иное мнение), а затем зона, где точно нет никакого слона.

Большое количество задействованных критериев обеспечивает надежность и эффективность системы выявления слонов. Ваша шкала слоновости достаточно хорошо настроена, чтобы соответствовать истине в непредвиденных ситуациях и допускать большое разнообразие отклонений.

Очевидно, что точное определение записать невозможно. На это не хватило бы целой книги, и в любом случае вы бы не нашли нужных слов.

Вот что такое паутина, о которой говорил Витгенштейн: переплетение наших триллионов нейронных связей. Немыслимо пытаться все это распутать. Но не распутав это все, нельзя по-настоящему определить что бы то ни было.

Алгоритмы глубокого обучения, даже самые мощные и изощренные, лишь грубые упрощения архитектуры нашего мозга. Наша зрительная кора действительно выстроена слоями, но не так строго, как в компьютерных моделях: нейрон «слон» явно запрашивает состояние нейрона «хобот», но нейрон «хобот» определенно запрашивает состояние нейрона «слон». От закольцованных определений никуда не деться.

Также упрощением было бы представлять, что наш мозг поделен на специализированные зоны, изолированные друг от друга: вы определяете слона не только визуально.

Как волны в океане

Осталось описать сам процесс обучения: какой механизм используют нейроны для обновления коэффициентов своих связей с передними слоями?

Возьмем пример нейрон «слон». Он непрерывно анализирует состояние передних нейронов, чтобы решить, возбуждаться ему или нет. Это поведение и позволяет вам анализировать мир в реальном времени. Говорить о реальном времени – всегда неверное словоупотребление, потому что никакая система на самом деле не работает в реальном времени. Нейрону нужно около половины миллисекунды на реакцию.

В главе 11 мы назвали это Системой 1: «мгновенной» интуитивной мыслью, создающей у нас впечатление, что мы мыслим со скоростью молнии.

Параллельно с этим явлением происходит другое, куда более незаметное, которое невозможно воспринять напрямую. Оно разворачивается в куда более медленных временных рамках. Здесь правильной метафорой будет не молния, а естественный процесс органического развития, как растущий побег растения. Это наш процесс обучения. Он лежит в основе того, что мы назвали Системой 3

: нашей способности постепенно менять способ представлять себе мир.

Если однажды вы встретите слона без хобота, вы удивитесь.

Что значит «удивиться»? Это значит, что ваше видение мира подобного не предусматривало. И все же это не помешает вам понять. Без всякого сомнения, вы все равно поймете, что перед вами слон, но у вас будет сильнейшее ощущение, что тут что-то идет не так.

При математическом моделировании системы глубокого обучения можно определить цифровую величину, измеряющую ее «замешательство» перед определенной ситуацией. Система, которая учится, – это система, которая настраивает свои коэффициенты, чтобы уменьшить замешательство.

Вот чему это соответствует на интуитивном уровне. На вашей шкале слоновости параметр «имеет хобот» обладает высоким коэффициентом. Даже если другие передние нейроны позволяют вам это компенсировать и «увидеть» слона несмотря на отсутствие хобота, – это ненормальная ситуация и вы чувствуете это физически

, даже если сами не осознаете.

Ваш нейрон «слон» учтет это и уменьшит соответствующий коэффициент. Если вы и дальше будете встречать слонов без хобота, в конце концов вы почти перестанете учитывать этот критерий.

В реальности не нужны настолько грубые аномалии, чтобы ваши нейроны корректировали свои коэффициенты взвешенности. Они постоянно настраивают их, совсем понемногу, при каждой стимуляции. Физиологически это соответствует способности синаптических связей укрепляться или ослабевать. Создаются новые связи, другие исчезают. Так наша мысленная цепь постоянно перестраивается.

Это и есть пластичность мозга: децентрализованные действия нейронов, которые по отдельности стремятся увеличить точность своей шкалы.

Невероятнее всего – но это прекрасно доказано экспериментально благодаря алгоритмам глубокого обучения – тот факт, что столь простые механизмы позволяют постепенно создать абстрактные концепты высокого уровня, такие как слоны, начав с точки отсчета, где связи и коэффициенты выбираются случайно.