Data Science - собесы

🤔 Как работают несимметрические метрики? Несимметрические метрики в контексте машинного обучения оценивают модель, акцентируя внимание на одном классе или типе ошибки больше, чем на других. Это особенно полезно в случаях, когда стоимость одного типа ошибки значительно выше другого. Примером несимметричной метрики является F1-score, который более чувствителен к классам с меньшим числом образцов или когда важно сбалансировать точность и полноту. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Что такое скользящее среднее? Это статистический метод, используемый для сглаживания временных рядов и устранения краткосрочных колебаний, чтобы выявить долгосрочные тренды. Он представляет собой последовательность средних значений определенного количества предыдущих точек данных. 🚩Зачем нужно 🟠Сглаживания данных Уменьшение случайных колебаний и шума в данных. 🟠Выявления трендов Обнаружение долгосрочных направлений в данных, которые могут быть скрыты краткосрочными колебаниями. 🟠Прогнозирования Помощь в прогнозировании будущих значений на основе текущих трендов. 🟠Анализа финансовых данных Часто используется в техническом анализе для выявления трендов на фондовых рынках. 🚩Типы 🟠Простое скользящее среднее (SMA) Среднее арифметическое определенного количества предыдущих значений. 🟠Взвешенное скользящее среднее (WMA) Похож на SMA, но при этом более недавним значениям присваиваются большие веса. 🟠Экспоненциальное скользящее среднее (EMA) Более сложное скользящее среднее, которое придает большее значение последним данным, что делает его более чувствительным к новым изменениям. 🚩Как вычисляется Для простого скользящего среднего (SMA) на основе последних \( n \) значений, формула выглядит следующим образом: \text{SMA} = \frac{X_{t} + X_{t-1} + X_{t-2} + \ldots + X_{t-(n-1)}}{n} Где \( X \) – значения временного ряда, а \( t \) – текущее время. Пример с кодом import pandas as pd import numpy as np import matplotlib.pyplot as plt # Пример данных data = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] # Преобразование данных в DataFrame df = pd.DataFrame(data, columns=['Value']) # Вычисление скользящего среднего с окном 3 df['SMA_3'] = df['Value'].rolling(window=3).mean() # Построение графика plt.plot(df['Value'], label='Исходные данные') plt.plot(df['SMA_3'], label='Скользящее среднее (окно=3)') plt.legend() plt.title('Пример Скользящего Среднего') plt.show() Ставь 👍 и забирай 📚 Базу знаний

🤔 В чем разница между pivot и pivot_table? `pivot` может создавать новый производный DataFrame, переформатируя исходный DataFrame. Он не поддерживает агрегацию данных. `pivot_table` делает то же самое, что и `pivot`, но также поддерживает агрегацию данных, позволяя использовать функции агрегирования, такие как суммирование, среднее и т.д. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Почему в нейроных сетях нельзя инициализировать веса нулями? Инициализация весов нулями в нейронных сетях является нежелательной практикой по нескольким причинам, связанным с динамикой обучения и эффективностью модели. 🟠Симметрия весов и проблема одинакового обучения Когда все веса инициализированы нулями, все нейроны в одном слое сети ведут себя одинаково во время прямого распространения сигнала. Это означает, что независимо от входных данных, все нейроны одного слоя будут вычислять одинаковые выходные данные и, следовательно, получать одинаковые ошибки во время обратного распространения. В результате, при обновлении весов, все веса будут обновляться одинаково, что эффективно делает нейроны в слое идентичными. Это приводит к тому, что такие нейроны не добавляют никакой дополнительной выразительной способности или разнообразия в модель, что существенно ограничивает её мощность. 🟠Отсутствие начального разрушения симметрии Инициализация весов случайными значениями помогает разорвать симметрию весов, позволяя каждому нейрону изучать различные аспекты данных в процессе обучения. Это необходимо для того, чтобы каждый нейрон мог развиваться независимо и способствовать изучению разнообразных признаков в данных. Инициализация нулями препятствует этому процессу, сохраняя симметрию и, таким образом, ингибируя эффективное обучение. 🟠Отсутствие градиентов для обучения Если все веса инициализированы нулями, градиенты ошибки, полученные в процессе обратного распространения, будут одинаковыми для всех весов. Это приводит к тому, что обновления весов также будут одинаковыми, и веса останутся одинаковыми на протяжении всего процесса обучения, не позволяя сети адекватно адаптироваться и учиться на основе предоставленных данных. 🟠Неактивация нейронов Если активационная функция, такая как ReLU (Rectified Linear Unit), используется в нейронной сети, начальная инициализация весов нулями приведет к тому, что выходы всех нейронов будут нулями. Поскольку ReLU возвращает ноль для любых отрицательных входов и линейно пропускает положительные входы, нулевые веса приведут к нулевому выходу на всех нейронах, что делает нейроны фактически неактивными в процессе обучения. Ставь 👍 и забирай 📚 Базу знаний

🤔 Что такое Boxplot? Это статистический график, показывающий распределение данных: 1. Ящик (Box) – показывает межквартильный размах (между Q1 и Q3). 2. Линия внутри ящика – медиана (Q2). 3. "Усы" – представляют диапазон данных без выбросов. 4. Точки за пределами усов – выбросы. Boxplot полезен для визуализации асимметрии, выбросов и распределения данных. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Чем еще можно тьюнить, кроме batch norm ? Тьюнинг нейронных сетей включает в себя множество аспектов, кроме использования Batch Normalization. В зависимости от конкретной задачи и модели, можно применять различные техники и методы для улучшения производительности, ускорения сходимости и уменьшения переобучения. 🟠Оптимизаторы Разные оптимизаторы могут существенно влиять на скорость и качество обучения моделей. SGD (Stochastic Gradient Descent): Основной метод стохастического градиентного спуска. Adam (Adaptive Moment Estimation): Популярный оптимизатор, который адаптивно изменяет скорости обучения для каждого параметра. RMSprop: Оптимизатор, который использует скользящее среднее квадратов градиентов для адаптации скорости обучения. Adagrad: Оптимизатор, который адаптирует скорость обучения на основе частоты параметров. from tensorflow.keras.optimizers import Adam model.compile(optimizer=Adam(learning_rate=0.001), loss='mse') 🟠Архитектура модели Выбор архитектуры модели может значительно влиять на ее производительность. Число слоев и нейронов: Увеличение количества слоев и нейронов может повысить способность модели к обучению сложных зависимостей, но также может привести к переобучению. Тип слоев: Использование различных типов слоев, таких как сверточные слои (Conv), рекуррентные слои (RNN, LSTM, GRU), слои нормализации (BatchNorm, LayerNorm) и слои Dropout, может улучшить производительность модели. 🟠Функции активации Выбор функций активации может существенно повлиять на способность модели обучаться и аппроксимировать сложные функции. ReLU (Rectified Linear Unit): Широко используемая функция активации. Leaky ReLU: Вариант ReLU, который решает проблему "мертвых" нейронов Sigmoid: Используется в выходных слоях для бинарной классификации. Tanh: Используется в скрытых слоях. from tensorflow.keras.layers import Dense, LeakyReLU model.add(Dense(64)) model.add(LeakyReLU()) 🟠Регуляризация Помогает избежать переобучения и улучшает обобщающую способность модели. Dropout: Случайное отключение нейронов во время обучения для предотвращения переобучения. L1/L2 регуляризация: Добавление штрафа за большие веса к функции потерь. Data Augmentation: Увеличение объема данных за счет применения различных преобразований, таких как повороты, сдвиги и изменения яркости. from tensorflow.keras.layers import Dropout from tensorflow.keras.regularizers import l2 model.add(Dense(64, activation='relu', kernel_regularizer=l2(0.01))) model.add(Dropout(0.5)) 🟠Скорость обучения и стратегии обучения Подбор правильной скорости обучения и применение различных стратегий изменения скорости обучения в процессе обучения модели. Learning Rate Scheduling: Планирование изменения скорости обучения в процессе обучения. Early Stopping: Остановка обучения, когда производительность на валидационном наборе перестает улучшаться. Gradient Clipping: Ограничение величины градиентов для предотвращения взрывающихся градиентов. from tensorflow.keras.callbacks import LearningRateScheduler, EarlyStopping def lr_schedule(epoch, lr): if epoch > 10: lr = lr * 0.1 return lr lr_scheduler = LearningRateScheduler(lr_schedule) early_stopping = EarlyStopping(patience=5, restore_best_weights=True) model.fit(X_train, y_train, epochs=50, batch_size=32, validation_split=0.2, callbacks=[lr_scheduler, early_stopping]) Ставь 👍 и забирай 📚 Базу знаний

🤔 Что хуже: иметь много ложных срабатываний или ложно-отрицательных срабатываний? Это зависит от задачи. Ложно-отрицательные срабатывания хуже в задачах, где важно не пропустить критический случай (например, диагностика). Ложные срабатывания могут быть менее критичными, но увеличивают нагрузку на систему. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний

🤔 Какие знаешь рекомендательные модели ? Это тип систем искусственного интеллекта, который используется для предложения наиболее подходящих продуктов, услуг или информации пользователям на основе их предпочтений и поведения. 🟠Коллаборативная фильтрация Эта модель работает на основе предпочтений или оценок, которые пользователи выставляют товарам или услугам. Она может быть реализована двумя способами: Пользователь-пользователь: Рекомендации формируются на основе схожести между пользователями. Если два пользователя похоже оценивают одни и те же товары, то товары, понравившиеся одному из них, могут быть рекомендованы другому. Товар-товар: Рекомендации формируются на основе схожести между товарами. Если товары часто оцениваются схожим образом разными пользователями, то они могут быть рекомендованы как похожие. 🟠Контентная фильтрация Этот подход использует характеристики самих объектов (например, описание фильмов или характеристики товаров) для рекомендаций. Если пользователю понравился товар с определенными характеристиками, система рекомендует другие товары с похожими характеристиками. 🟠Гибридные системы Комбинация коллаборативной и контентной фильтрации. Этот подход устраняет недостатки каждой отдельной модели, предлагая более точные и персонализированные рекомендации. 🟠Методы, основанные на знаниях Эти системы используют специфические знания о контексте взаимодействия пользователя и объекта. Они полезны там, где предыдущих данных о пользователе недостаточно для формирования рекомендаций. 🟠Модели глубокого обучения Современные методы, такие как сверточные нейронные сети (CNN) для анализа изображений товаров или рекуррентные нейронные сети (RNN) для работы с последовательностями и временными рядами. Например, системы рекомендации Netflix для фильмов используют машинное обучение для анализа предпочтений пользователя и предсказания оценок. import pandas as pd from sklearn.metrics.pairwise import cosine_similarity # Допустим, у нас есть следующий набор данных оценок пользователей data = {'User': ['User1', 'User2', 'User3'], 'Item1': [5, 3, 2], 'Item2': [4, 1, 6], 'Item3': [1, 5, 2]} df = pd.DataFrame(data).set_index('User') # Вычисляем косинусное сходство между товарами similarity_matrix = cosine_similarity(df.T) # Преобразуем в DataFrame для удобства similarity_df = pd.DataFrame(similarity_matrix, index=df.columns, columns=df.columns) print(similarity_df) Ставь 👍 и забирай 📚 Базу знаний

🤔 Что такое декоратор? Это функция, модифицирующая или расширяющая поведение другой функции или метода, не изменяя их исходный код. Используется для добавления функциональности, например, логирования, проверки прав доступа или кэширования. Обозначается с помощью @decorator_name. Ставь 👍 если знал ответ, 🔥 если нет Забирай 📚 Базу знаний