Искусство статистики. Как находить ответы в данных

коэффициент регрессии: оцениваемый параметр в статистической модели, который выражает степень взаимосвязи между объясняющей переменной и результатом во множественной регрессии. Этот коэффициент будет иметь различную интерпретацию в зависимости от того, является ли результирующая переменная непрерывной (множественная линейная регрессия), долей (логистическая регрессия), целым числом (пуассоновская регрессия) или временем выживания (регрессия Кокса);

кризис воспроизводимости: утверждение, что многие опубликованные научные выводы основаны на недостаточно качественных работах, поэтому такие результаты не могут воспроизвести другие исследователи;

критерий независимости хи-квадрат/критерий согласия хи-квадрат: статистический критерий, показывающий степень несовместимости данных с принятой статистической моделью, заключающей нулевую гипотезу (например, величины независимы или имеют определенное распределение). А именно: критерий сравнивает множества каких-то наблюдаемых величин x₁,…,x_m и ожидаемых при нулевой гипотезе величин y₁,…,y_m. Простейший вариант критерия –

При нулевой гипотезе значение χ² приближенно будет иметь известное χ²-распределение. Это позволяет вычислить соответствующее P-значение;

логарифмическая шкала: логарифм по основанию 10 для положительного числа x обозначается y = log₁₀x, что эквивалентно x = 10^y. В статистическом анализе log

x обычно обозначает натуральный логарифм log_e x, что эквивалентно x = e^y, где e – основание натурального логарифма 2,71828…;

логистическая регрессия: форма множественной регрессии, когда переменная отклика – это доля, а коэффициенты соответствуют log(отношение шансов). Допустим, мы наблюдаем набор долей y_i = r_i/n_i в предположении, что у нас биномиальные величины с вероятностями p_i, а соответствующий набор предикторных переменных – . Предполагается, что логарифм шансов с оцениваемой вероятностью определяется линейной регрессией:

Допустим, что одна из предикторных переменных, например x₁, является двоичной, где x₁ = 0 соответствует отсутствию воздействия потенциального риска, а x₁ = 1 соответствует воздействию. Тогда коэффициент b₁ – это log(отношение шансов);

ложноположительный: неверная классификация «отрицательного» случая как «положительного»;

математическое ожидание (среднее):

среднее значение случайной величины (взвешенное по вероятностям или по плотности). Для дискретной случайной величины это ∑xp(x), а для непрерывной случайной величины это ∫xp(x)dx. Например, если случайная величина X – это число очков, выпавших на симметричной игральной кости, то есть P(X = x) = 1/6 для x = 1,2,3,4,5,6, то ;

матрица ошибок: таблица, где собраны верные и неверные классификации, произведенные каким-либо алгоритмом;

машинное обучение: процедуры извлечения алгоритмов (например, для классификации, прогнозирования или кластеризации) из сложных данных;

медиана (выборки): значение, которое окажется посередине, если упорядочить числа в выборке. Более строго: упорядочив числа в выборке, обозначим наименьшее число x₍₁₎, второе по величине x₍₂₎ и так далее (получившийся набор x₍₁₎,

x₍₂₎,…,x_(n) называют вариационным рядом). Если n – нечетное число, то медиана – число, находящееся точно посередине вариационного ряда, то есть число . Если же n – четное число, то медианой обычно считают полусумму двух средних чисел;

метаанализ: формальный статистический метод объединения результатов нескольких исследований;

метод наименьших квадратов: предположим, что у нас есть n пар чисел (x₁,y₁),(x₂,y₂), ,s_x – выборочное среднее и среднеквадратичное отклонение для чисел x и s_y – выборочное среднее и среднеквадратичное отклонение для чисел y

. Тогда прямая регрессии, вычисленная по методу наименьших квадратов, определяется уравнением

где

 – прогнозируемое значение зависимой переменной для определенного значения независимой переменной x;

коэффициент наклона ;

отсекаемый отрезок . Прямая по методу наименьших квадратов проходит через центр тяжести ;

i-й остаток – разность между i-м наблюдением и его предсказанным значением ;

скорректированное значение i-го наблюдения – это сумма остатка и отсекаемого отрезка, то есть . Это значение мы наблюдали бы в «среднем» случае, если бы имели а не x = x_i;

остаточная сумма квадратов – это сумма квадратов всех остатков, то есть . Прямая, построенная по методу наименьших квадратов, определяется как прямая, минимизирующая сумму квадратов разностей;

коэффициент наклона b₁ и коэффициент корреляция Пирсона r связаны формулой b₁ = rs_y / s_x. Поэтому в случае, когда стандартные отклонения для x и y одинаковы, коэффициент угла наклона в точности равен коэффициенту корреляции;