Data Science - собесы

🤔 Как строится дерево? Дерево решений строится путем рекурсивного деления данных на подмножества на основе наилучших признаков, которые уменьшают неопределенность (например, с использованием информации энтропии или критерия Джини). Каждый узел в дереве представляет решение на основе одного признака, а ветви — возможные исходы. Процесс деления продолжается до тех пор, пока все данные в узлах не будут однородными или не будет достигнуто ограничение глубины. Листья дерева содержат финальные предсказания для данных. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Что такое метод максимизации правдоподобия ? Метод максимизации правдоподобия (Maximum Likelihood Estimation, MLE) — это статистический метод для оценки параметров модели. Основная идея MLE заключается в выборе таких значений параметров, которые максимизируют функцию правдоподобия, то есть делают наблюдаемые данные наиболее вероятными при заданных параметрах модели. 🚩Основные концепции 🟠Правдоподобие (likelihood) Правдоподобие — это вероятность наблюдаемых данных при заданных параметрах модели. Пусть \( \theta \) — вектор параметров модели, \( X = (x_1, x_2, \ldots, x_n) \) — наблюдаемые данные. Тогда функция правдоподобия \( L(\theta | X) \) — это вероятность получения этих данных при параметрах \( \theta \). L(\theta | X) = P(X | \theta) 🟠Логарифм правдоподобия Для удобства математических манипуляций часто используют логарифм функции правдоподобия, называемый логарифмическим правдоподобием (log-likelihood). Логарифм преобразует произведение вероятностей в сумму, что упрощает дифференцирование. \ell(\theta | X) = \log L(\theta | X) 🟠Максимизация правдоподобия Задача MLE состоит в нахождении такого значения параметров \( \hat{\theta} \), которое максимизирует функцию правдоподобия. Формально это выглядит как: \hat{\theta} = \arg\max_{\theta} L(\theta | X) \quad \text{или} \quad \hat{\theta} = \arg\max_{\theta} \ell(\theta | X) 🟠Функция плотности вероятности нормального распределения f(x | \mu, \sigma) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right) 🟠Функция правдоподобия для выборки \( X = (x_1, x_2, \ldots, x_n) \) L(\mu, \sigma | X) = \prod_{i=1}^{n} f(x_i | \mu, \sigma) 🟠Логарифм функции правдоподобия \ell(\mu, \sigma | X) = \sum_{i=1}^{n} \log f(x_i | \mu, \sigma) 🟠Подставив функцию плотности нормального распределения \ell(\mu, \sigma | X) = -n \log(\sqrt{2\pi\sigma^2}) - \frac{1}{2\sigma^2} \sum_{i=1}^{n} (x_i - \mu)^2 🟠Максимизация логарифма правдоподобия Найдем частные производные логарифма правдоподобия по \( \mu \) и \( \sigma \), приравняем их к нулю и решим систему уравнений. import numpy as np # Пример данных data = np.array([2.1, 2.5, 3.6, 3.9, 4.2, 5.0]) # Оценка параметров нормального распределения с использованием MLE mu_mle = np.mean(data) sigma_mle = np.std(data, ddof=0) print(f"Оценка среднего (mu) по MLE: {mu_mle}") print(f"Оценка стандартного отклонения (sigma) по MLE: {sigma_mle}") 🚩Применение MLE в машинном обучении 🟠Линейная регрессия В линейной регрессии параметры (коэффициенты) оцениваются с использованием метода наименьших квадратов, который эквивалентен максимизации правдоподобия при предположении нормального распределения ошибок. 🟠Логистическая регрессия В логистической регрессии MLE используется для оценки коэффициентов, максимизируя логарифм функции правдоподобия для логистической функции. Ставь 👍 и забирай 📚 Базу знаний

🤔 Какие есть детекторы и архитектуры в CV? Классические: SIFT, HOG. Современные архитектуры: YOLO, SSD, Faster R-CNN для детекции объектов, U-Net, DeepLab для сегментации. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 В чем смысл информейшен вэлью? Это статистическая метрика, используемая для оценки предсказательной силы переменной в задачах бинарной классификации. Она особенно популярна в кредитном скоринге для выбора значимых признаков и отсечения неинформативных переменных. 🚩Основная идея Information Value измеряет, насколько хорошо независимая переменная (фича) может различать два класса (обычно «хороший» и «плохой»). Чем выше IV, тем лучше переменная разделяет классы. Эта метрика основана на распределении целевой переменной (target variable) в различных бинах (корзинах) значений независимой переменной. 🚩Шаги для расчета 1⃣Разбиение переменной на бины (корзины) Непрерывные переменные делятся на интервалы, а категориальные переменные остаются без изменений. 2⃣Вычисление доли хороших и плохих в каждом бине Для каждого бина вычисляются доли хороших (\(p_i\)) и плохих (\(q_i\)) примеров. 3⃣Вычисление Weight of Evidence (WOE) для каждого бина Формула WOE WOE_i = \ln\left(\frac{p_i}{q_i}\right) 4⃣Вычисление Information Value IV – это сумма произведений разности долей и WOE для каждого бина. IV = \sum_{i} (p_i - q_i) \cdot WOE_i 🚩Интерпретация IV < 0.02 Переменная неинформативна. 0.02

🤔 Что такое пи вэлью? P-value — это вероятность того, что наблюдаемые данные или более экстремальные данные могли бы возникнуть при условии, что нулевая гипотеза верна. В контексте статистических тестов, маленькое значение p-value указывает на то, что нулевая гипотеза может быть отвергнута в пользу альтернативной гипотезы. Обычно порог значимости устанавливается на уровне 0.05, и если p-value меньше этого порога, нулевая гипотеза отвергается. P-value не говорит о размере эффекта, а лишь о степени уверенности в полученных данных. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 При свёртке картинки HxW матрицей 3х3, что получится в итоге? При свёртке изображения размером \( H \times W \) ядром \( 3 \times 3 \) итоговый размер зависит от наличия паддинга (padding) и шага (stride). 🟠Если без паддинга (valid convolution) и шаг 1 При стандартной свёртке без паддинга каждый пиксель на краях теряется. Размер выходного изображения: (H - 3 + 1) \times (W - 3 + 1) = (H-2) \times (W-2) Если было \( 5 \times 5 \), то станет \( (5-2) \times (5-2) = 3 \times 3 \). 🟠Если есть паддинг (same convolution) и шаг 1 Паддинг (обычно \( p=1 \)) добавляет границы, чтобы размер не менялся: H_{\text{new}} = H, \quad W_{\text{new}} = W Если было \( 5 \times 5 \), то с паддингом 1 размер останется \( 5 \times 5 \). 🟠Если шаг (stride) больше 1 Если stride = \( s \), то размер вычисляется так: H_{\text{out}} = \frac{H - 3 + 2p}{s} + 1, \quad W_{\text{out}} = \frac{W - 3 + 2p}{s} + 1 Если было \( 5 \times 5 \), то H_{\text{out}} = \frac{5 - 3}{2} + 1 = 2, \quad W_{\text{out}} = 2 Ставь 👍 и забирай 📚 Базу знаний

🤔 В чем разница между L1 и L2 регуляризацией? L1-регуляризация (Lasso) добавляет сумму модулей весов к функции потери, склоняя веса к нулю, что способствует разреженности. L2-регуляризация (Ridge) добавляет сумму квадратов весов, уменьшая их величину, но не зануляя. L1 эффективна для отбора признаков, а L2 — для стабилизации модели и борьбы с переобучением. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Назови формулу линейной модели Формула линейной модели в общем виде записывается как: y = w_0 + w_1 x_1 + w_2 x_2 + \dots + w_n x_n + \varepsilon Где: \( y \) — целевая переменная (предсказываемый результат), \( x_1, x_2, \dots, x_n \) — признаки (входные данные), \( w_0 \) — свободный член (intercept, смещение), \( w_1, w_2, \dots, w_n \) — коэффициенты (веса) модели, \( \varepsilon \) — случайная ошибка (шум). 🚩Почему это важно? Линейная модель используется для предсказания зависимой переменной \( y \) на основе линейной комбинации входных признаков \( x \). Она проста в интерпретации и вычислениях, поэтому широко применяется в статистике и машинном обучении. 🚩Как используется? Модель обучается с помощью метода наименьших квадратов (или градиентного спуска), подбирая такие коэффициенты \( w \), чтобы минимизировать ошибку предсказания. import numpy as np import matplotlib.pyplot as plt from sklearn.linear_model import LinearRegression # Данные (признак x и целевая переменная y) X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1) # Преобразуем в столбец y = np.array([2, 4, 6, 8, 10]) # Создаем и обучаем модель model = LinearRegression() model.fit(X, y) # Выводим коэффициенты print(f'Коэффициент наклона (w1): {model.coef_[0]}') print(f'Свободный член (w0): {model.intercept_}') # Делаем предсказание y_pred = model.predict(X) # Визуализация plt.scatter(X, y, color='blue', label='Данные') plt.plot(X, y_pred, color='red', label='Модель') plt.legend() plt.show() Ставь 👍 и забирай 📚 Базу знаний

🤔 Разница между K-Means и KNN 1. K-Means (кластеризация): o Используется для группировки данных в кластеры на основе схожести. o Это алгоритм обучения без учителя. o Результат — центры кластеров, данные распределяются вокруг них. 2. KNN (K-Nearest Neighbors): o Алгоритм классификации или регрессии, находящий ближайших соседей для прогнозирования. o Это алгоритм обучения с учителем. o Результат зависит от разметки данных (меток классов). Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний