посещаемость = (первое загадочное число) × (процент побед) + (второе загадочное число).
Любая подобная стратегия соответствует прямой линии на диаграмме, и вы хотите, чтобы такая линия как можно лучше соответствовала вашим данным – точкам. Два загадочных числа – это две ручки, вы можете поворачивать их вверх и вниз и тем самым выполнять градиентный спуск, меняя эти числа до тех пор, пока суммарную неправильность вашей стратегии уже нельзя будет уменьшить такими небольшими вмешательствами[304]
.Линия, которую вы получите, будет выглядеть так.
Вы можете заметить, что прямая с наименьшей неправильностью все равно весьма неточная! Большинство взаимосвязей в настоящем мире не строго линейны. Мы можем попробовать решить эту задачу, взяв больше переменных (например, можно учесть размер стадиона команды), но в итоге на линейных стратегиях далеко не уедешь. Этот класс стратегий попросту недостаточно велик, чтобы, например, рассказать вам, какие изображения будут кошками. Вам придется рискнуть и выйти в дикий мир нелинейности.
Самая главная вещь в современном машинном обучении – это метод, называемый
Но нет. Как говорила Бруссард, это просто математика, причем даже не новая: основная идея существует с конца 1950-х годов. Что-то вроде архитектуры нейронной сети можно было увидеть еще в 1984 году в моем подарке на бар-мицву. Наряду с чеками, стаканчиками для кидуша[305]
и двумя дюжинами ручек я получил от родителей подарок, который страстно желал, – синтезатор Yamaha DX21. Он до сих пор стоит у меня в комнате. А тогда я был крайне горд, что у меняКаждый из этих блоков ОП представляет собой волну и имеет несколько ручек, которые вы можете повернуть, чтобы звук был громче, тише, затухал или нарастал. Все это стандартно. Настоящая гениальность DX21 – в связях между операторами, отображенных на вышеприведенной диаграмме. Это своеобразная машина Руба Голдберга[306]
, где волна, исходящая из ОП 1, зависит не только от ручек на этом блоке, но и от выхода ОП 2, который дает входной сигнал для ОП 1. Волны могли даже изменять сами себя: у ОП 4 есть стрелка «обратной связи».Таким образом, поворачивая несколько ручек на каждом блоке, я мог получить на удивление большой диапазон выходных сигналов, которые предоставляли мне бесконечные возможности для создания новых самодельных звуков, например «электрическая смерть» или «космический пук»[307]
.Нейронная сеть похожа на мой синтезатор. Это сеть из небольших блоков наподобие этой:
Каждый такой блок делает одно и то же: берет на входе какое-то число и выдает на выходе либо 1 (если число на входе было больше или равно 0,5), либо 0 (если число на входе было меньше 0,5). Идею использовать подобные блоки в качестве базового элемента обучающейся машины придумал в 1957 или 1958 году психолог Фрэнк Розенблатт[308]
как простую модель работы нейрона: он бездействует, пока получаемый им стимул не превысит определенное пороговое значение, и в этот момент возбуждается и передает сигнал. Розенблатт назвал свои машиныКак только блок выдает выходной сигнал, это число двигается вдоль стрелки, отходящей от блока вправо. Каждой стрелке приписано определенное число, называемое
Каждый столбец блоков называют