Множинна регресія

Alex Tutor

Один предиктор — непоганий початок, але реальні замовлення залежать від рекламних витрат, святкових тижнів, можливо, і ціни. А що, якщо використати їх усі разом?

Ви

То ми просто додаємо їхні окремі ефекти?

Alex Tutor

Майже — множинна регресія підбирає одне рівняння з кількома предикторами одразу, кожен зі своїм коефіцієнтом.

Alex Tutor

\hat{y} = b_0 + b_1 x_1 + b_2 x_2 + \dots + b_k x_k

Множинна регресія: один вільний член плюс один нахил на кожен предиктор, і досі підбирається мінімізацією квадратів залишків.

Кожен коефіцієнт — це ефект свого предиктора за незмінних усіх інших предикторів у рівнянні — так, ніби більше нічого не змінилося.

Ви

«За незмінних»? Ми ж не можемо насправді заморозити інші змінні в реальному житті.

Alex Tutor

Правда — це математичне твердження про підібране рівняння, а не те, що ти зробила під час збору даних. Але це все одно корисно для чесного порівняння предикторів.

Alex Tutor

Питання 1

У рівнянні orders = b0 + b1 x ad_spend + b2 x is_holiday_week, що означає b1?

Оберіть одну відповідьПрогнозована зміна замовлень на кожен додатковий долар рекламних витрат за незмінного статусу святкового тижняСукупний ефект рекламних витрат, включно з будь-яким збігом зі святковим періодомКореляція між рекламними витратами й замовленнямиПрогнозовані замовлення, коли рекламні витрати дорівнюють нулю

Зробімо це конкретним на прикладі рівняння в стилі Котокорму.

\text{orders} = 12 + 0,05 \times \text{ad\_spend} + 4 \times \text{is\_holiday\_week}

, де is_holiday_week дорівнює 1 у святковий тиждень і 0 — в інший.

Ви

Тобто святковий тиждень — це рівно 4 додаткових замовлення, незалежно від витрат?

Alex Tutor

Саме так, у цьому рівнянні — фіксована надбавка поверх того, що прогнозують рекламні витрати.

Alex Tutor

Питання 2

Використовуючи orders = 12 + 0,05 x ad_spend + 4 x is_holiday_week, спрогнозуй orders для святкового тижня (is_holiday_week = 1) з ad_spend = 400.

Ваша відповідь

Одиниці: замовлень, напр. 30

Чудово. Тепер вимкни прапорець свята.

Ви

Та сама формула витрат, просто без +4?

Alex Tutor

Саме так.

Ви

Перевірмо.

Alex Tutor

Питання 3

Те саме рівняння, звичайний тиждень без свята (is_holiday_week = 0) з ad_spend = 600. Спрогнозуй orders.

Ваша відповідь

Одиниці: замовлень, напр. 30

Два коефіцієнти позаду. Але ось пастка: додавання дедалі більшої кількості предикторів завжди робить R² на цих даних кращим, навіть якщо предиктор марний.

Ви

Стривай, навіть випадкові дурниці-предиктори покращують R²?

Alex Tutor

На дрібку — так, чиста випадковість дає кожній додатковій колонці трохи заслуги. Саме тому й існують скоригований R² і перевірка на відкладених даних.

Ви

Тобто саме по собі R² може вводити в оману за великої кількості предикторів?

Alex Tutor

Питання 4

Додавання ще одного предиктора до регресії може лише збільшити або не змінити її R² на тих самих даних, навіть якщо новий предиктор — чиста випадковість.

ПравдаНеправда

Правильна інтуїція. Є ще друга, підступніша проблема, коли предиктори корелюють між собою, а не лише з результатом.

Ви

Наприклад, рекламні витрати й... що ще рухається разом?

Alex Tutor

Наприклад, рекламні витрати й глибина знижки — Котокорм часто поглиблює знижки саме в ті тижні, коли більше витрачає на рекламу.

Alex Tutor

Коли два предиктори рухаються настільки узгоджено, модель не може чітко визначити, кому з них належить заслуга. Коефіцієнти стають нестійкими — додай одну точку даних, і вони можуть різко змінитися.

Alex Tutor

Питання 5

Зістав кожну ситуацію з терміном, що її описує.

Торкніться відповіді, а потім рядка, до якого вона належить. Можна й перетягувати.

Два предиктори рухаються настільки узгоджено, що їхні коефіцієнти різко змінюються за найменшої зміни вибірки
Модель майже ідеально описує навчальні дані, але погано прогнозує на нових
Підбір моделі на одній частині даних і перевірка її якості на іншій, ще не баченій частині
Показник, що заохочує хороше прилягання, але штрафує за зайві предиктори, зручний для порівняння моделей

Відповіді, які ще треба розмістити

Гарно зіставила. В обох проблем є способи виправлення.

Для мультиколінеарності: прибрати один із корельованих предикторів, об'єднати їх або підібрати покрокову регресію. Для перенавчання: штрафувати зайві предиктори інформаційним критерієм або перевіряти на відкладених даних.

Ви

Тобто більше предикторів — це не автоматично краща модель?

Alex Tutor

Правильно. Більше предикторів краще, лише якщо кожен із них заслуговує на своє місце.

Alex Tutor

Питання 6

Що з переліченого правда про мультиколінеарність? Оберіть усі, що підходять.

Оберіть усі правильні відповідіВона виникає, коли два чи більше предикторів сильно корелюють між собоюВона робить окремі коефіцієнти нестійкими й важко інтерпретованимиВона означає, що модель загалом більше не може добре прогнозувати результатВилучення одного з корельованих предикторів — один із поширених способів виправлення

Alex Tutor

Час сформулювати це словами.

Ви

Знову за своє.

Alex Tutor

Цього разу швидко.

Ви

Гаразд, кажи.

Alex Tutor

Питання 7Коротка відповідь · Завдання з перевіркою ШІ

Колега пропонує додати до моделі і ad_spend, і discount_depth, зазначаючи, що Котокорм зазвичай підвищує обидва одночасно під час розпродажів. Який ризик варто позначити і що б ти запропонувала? Відповідь — 2-4 речення.

Напишіть відповідь і отримайте оцінку та відгук від нашого ШІ-рецензента.

Увійдіть, щоб отримати відгук ШІ

Гарна інтуїція — познач це, а не ігноруй. Тепер повний кейс.

Ви

Цього разу три предиктори?

Alex Tutor

Три предиктори, і серед них ховається один ризик мультиколінеарності. Знайди його.

Ось сценарій.

Alex Tutor

Питання 8Кейс · Завдання з перевіркою ШІ

Розглянь підібрану модель і напиши свою рекомендацію.

Колега підібрав рівняння orders = 10 + 0,04 x ad_spend + 6 x discount_depth - 2 x price + 3 x is_holiday_week (R² = 0,88) і хоче сказати керівництву: «discount_depth має найбільший коефіцієнт, тож знижки — наш найкращий важіль, тож скоротімо рекламні витрати й посилимо знижки». Тобі відомо, що Котокорм завжди поглиблює знижки саме в ті тижні, коли збільшує рекламні витрати. Напиши коротку рекомендацію: що б ти перевірила, перш ніж довіряти коефіцієнту discount_depth, і що порадила б керівництву.

Напишіть відповідь і отримайте оцінку та відгук від нашого ШІ-рецензента.

Увійдіть, щоб отримати відгук ШІ

Чудова робота, Софіє. Тепер ти вмієш читати рівняння з кількома предикторами і знаєш дві його класичні пастки. Далі — що робити, якщо сам результат — це «так/ні», а не число: логістична регресія.

Alex Tutor

На цьому все. Ви відповіли на всі завдання — чудова робота.

Наступний урок: Логістична регресія та класифікація