викид
Спостереження, далеке від решти даних (поширене правило: далі ніж 1,5 IQR від квартилів); може спотворити середнє і стандартне відхилення.
Викид — це спостереження, яке лежить далеко від решти даних. Це опис, а не вирок: позначка означає «придивіться до мене», а не «видаліть мене».
Як їх знайти. Повсякденний стандарт — правило міжквартильного розмаху: позначаємо все, що нижче або вище . Саме такі значення малюють окремими точками на діаграмі розмаху («ящику з вусами»). Оскільки межі побудовано на квартилях, самі викиди їх не спотворюють. Інше популярне правило — «далі ніж 3 стандартні відхилення від середнього» (тобто z-оцінка за межами ±3) — працює на великих даних у формі «дзвона», але підводить на малих чи скошених вибірках: викиди роздувають те саме стандартне відхилення, яким їх вимірюють. Хоч би яке правило ви обрали, ще й побудуйте графік: гістограма чи діаграма розсіювання покаже дивні значення, яких не зловить жоден поріг.
Що з ними робити, залежить від того, чому значення таке далеке:
- Помилка: тестове замовлення, дубль, ціна без десяткової коми, виручка не в тій валюті. Виправте чи вилучіть і запишіть, що саме зробили.
- Справжнє крайнє значення: реальний, дуже лояльний покупець. Значення правильне, а видалити його — однаково що вдавати, ніби ваших найкращих клієнтів не існує.
- Інша сукупність: котокафе чи перекупник серед домогосподарств. Дані справжні, але їм місце в окремому сегменті.
Викиди важливі, бо середнє, стандартне відхилення й дисперсія на них сильно реагують, а медіана й міжквартильний розмах майже не зсуваються. Показуйте ключові метрики з незвичними значеннями і без них, беріть стійкі міри, коли крайнощі не є предметом аналізу, і пам'ятайте: іноді викид і є головною знахідкою — B2B-сегментом, про який ви не знали, чи помилкою в трекінгу.
Приклад
Десять післяобідніх замовлень Котокорму за один день, після сортування: $26, $28, $30, $31, $33, $35, $36, $38, $40, $290.
Правило IQR. Нижня половина 26, 28, 30, 31, 33 дає ; верхня 35, 36, 38, 40, 290 дає . Отже, , нижня межа — , верхня — . Замовлення на $290 позначено як викид.
Правило трьох стандартних відхилень. Середнє — долара, вибіркове стандартне відхилення — близько 81,39, тож для замовлення на $290 маємо , і воно не позначається. Більше того, коли , жодне значення не може мати більше за , тож на такій малій вибірці правило трьох стандартних відхилень не спрацює ніколи.
Розслідування. У рядку замовлення — 12 пачок сухого корму з доставкою в котокафе: дані справжні, але це інший тип покупця. У виручці замовлення лишається, а типовий чек показуємо окремо: «Середнє — $58,70, або $33,00 без одного B2B-замовлення (); медіана — $34». Якби з'ясувалося, що це $29,00, помилково введені як $290, замовлення треба було б виправити.
Типові помилки
- Видаляти викиди рефлекторно. Якщо «вичистити» найбільших покупців, прогноз виручки зламається: в одній вибірці Котокорму 2 із 24 нових клієнтів принесли 29% виручки за 90 днів.
- Покладатися на правило трьох стандартних відхилень на малих чи скошених вибірках. Викиди роздувають стандартне відхилення й можуть маскувати одне одного, а серед 10 значень жодне взагалі не досягне . За замовчуванням беріть правило IQR.
- Вилучати значення, нічого не записавши. Якщо ніхто не бачить, що й чому ви прибрали, ніхто не зможе відтворити ваші числа. Фіксуйте кожне вилучення.
- Вирішувати, що відкинути, уже після результатів A/B-тесту. Прибирати викиди лише тоді, коли це допомагає варіанту, — прямий шлях до хибних перемог. Зафіксуйте правило (наприклад, обмеження виручки 99-м процентилем) до старту тесту.
- Вважати позначене значення помилкою. Правило каже лише «далеко від решти»; щоб відрізнити баг від «кита» чи окремого сегмента, перевірте сирий рядок.
Вивчити в курсі
- Викиди та скошені дані · Чому продуктові метрики мають довгі хвости, як знаходити викиди за правилом IQR і що з ними робити: виправляти помилки, сегментувати інших покупців і ніколи бездумно не видаляти «китів».
- Манна–Вітні: коли дані не нормальні · Ранговий тест для скошених метрик, як-от виручка чи тривалість сесії.
- t-тест · Порівняння середніх двох груп і рішення, чи різниця більша за випадкову.
- Кластеризація для сегментації користувачів · Як дати даним підказати сегменти користувачів замість того, щоб їх вгадувати.