ступені свободи
Кількість значень, що можуть вільно змінюватися за фіксованих оцінених величин, наприклад n - 1 для однієї вибірки, n1 + n2 - 2 для двовибіркового t-критерію.
Ступені свободи показують, скільки значень у розрахунку справді можуть змінюватися вільно, коли щось уже зафіксовано даними. Класична ілюстрація: якщо відомо, що середнє п'яти чисел дорівнює 40, будь-які чотири з них можна обрати довільно, але п'яте вже визначене, бо сума мусить бути 200. П'ять значень, одне обмеження — чотири ступені свободи.
Саме тому вибіркову дисперсію ділять на , а не на :
Відхилення відраховують від вибіркового середнього , яке обчислене з тих самих даних, тож у сумі вони завжди дають нуль, і незалежну інформацію несуть лише з них. Ділення на систематично занижувало б розкид, і на малих вибірках — відчутно.
Кожен критерій, що оцінює щось за даними, «витрачає» ступені свободи, і формула залежить від критерію:
Чому це важливо на практиці: ступені свободи визначають, з якою кривою порівнюють статистику критерію. За малої кількості ступенів свободи t-розподіл має товстіші хвости, ніж нормальний, тож критичне значення більше, і для відхилення H0 потрібен сильніший сигнал. Зі зростанням ступенів свободи t-розподіл наближається до нормального, а його двобічне критичне значення для 5% — до 1,96. Програма порахує ступені свободи сама; вам варто пам'ятати, що мало ступенів свободи — вища планка.
Приклад
Звідки береться «мінус один». Новий пункт видачі Котокорму за 5 днів отримував у середньому 40 замовлень на день, тож разом 200. Оберімо будь-які чотири дні: 38, 45, 36 і 42, у сумі 161. П'ятий день уже не вільний: . П'ять значень — чотири ступені свободи.
Тепер дисперсія цих п'яти днів. Відхилення від середнього 40: (у сумі 0, як і має бути завжди). Квадрати: .
- Ділимо на : , тож замовлення.
- Ділення на дало б 10, тобто заниження справжнього розкиду між днями.
У t-критерії. Тест віджета допродажу порівнював 10 замовлень контрольної групи з 10 замовленнями експериментальної, тож . Двобічне критичне значення за — 2,101. Якби в кожній групі було лише 5 замовлень, , і планка піднялася б до 2,306; на величезних вибірках вона опускається до 1,96.
У критерії хі-квадрат. Маркетинг порівнює конверсію в 3 рекламних каналах, у кожному 2 результати (конверсія є чи немає). Таблиця спряженості має розмір , тож , а 5% критичне значення хі-квадрат — 5,99.
Типові помилки
- Брати за ступені свободи весь обсяг вибірки. У t-критерії для двох груп по 10 користувачів 18 ступенів свободи, а не 20; у критерії хі-квадрат вони залежать від кількості рядків і стовпців таблиці, а не від кількості користувачів.
- Брати нормальне 1,96 для t-критерію на малій вибірці. За 8 ступенів свободи правильна планка — 2,306; з 1,96 хибнопозитивні результати стають імовірнішими.
- Ділити на n, рахуючи вибіркове стандартне відхилення вручну. Функції в таблицях різні (
STDEV.Sділить на ,STDEV.P— на ); для вибірки беріть варіант з . - Дивуватися дробовим ступеням свободи. t-критерій Велча коригує їх для нерівних дисперсій і часто показує щось на кшталт 14,7; це нормально.
- Думати, що більше ступенів свободи означає більший ефект. Ступені свободи відображають лише те, скільки інформації пішло в оцінку, а не те, наскільки велика чи важлива різниця.
Вивчити в курсі
- t-тест · Порівняння середніх двох груп і рішення, чи різниця більша за випадкову.
- Повторні вимірювання · Відстеження тих самих користувачів у кількох точках часу.
- ANOVA: порівняння багатьох груп · Перевірка трьох і більше варіантів одночасно без зростання хибнопозитивних результатів.
- Парні тести: до і після · Порівняння тих самих користувачів до і після зміни.