Data Science - interviews

🤔 В чем смысл информейшен вэлью? Это статистическая метрика, используемая для оценки предсказательной силы переменной в задачах бинарной классификации. Она особенно популярна в кредитном скоринге для выбора значимых признаков и отсечения неинформативных переменных. 🚩Основная идея Information Value измеряет, насколько хорошо независимая переменная (фича) может различать два класса (обычно «хороший» и «плохой»). Чем выше IV, тем лучше переменная разделяет классы. Эта метрика основана на распределении целевой переменной (target variable) в различных бинах (корзинах) значений независимой переменной. 🚩Шаги для расчета 1⃣Разбиение переменной на бины (корзины) Непрерывные переменные делятся на интервалы, а категориальные переменные остаются без изменений. 2⃣Вычисление доли хороших и плохих в каждом бине Для каждого бина вычисляются доли хороших (\(p_i\)) и плохих (\(q_i\)) примеров. 3⃣Вычисление Weight of Evidence (WOE) для каждого бина Формула WOE WOE_i = \ln\left(\frac{p_i}{q_i}\right) 4⃣Вычисление Information Value IV – это сумма произведений разности долей и WOE для каждого бина. IV = \sum_{i} (p_i - q_i) \cdot WOE_i 🚩Интерпретация IV < 0.02 Переменная неинформативна. 0.02