🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Оптимальное сочетание пробных мониторов и черных ящиков
(Optimally Combining Probe Monitors and Black Box Monitors)
ссылка
Статья описывает новый метод, который объединяет два типа мониторинга искусственного интеллекта: «пробные мониторы», анализирующие внутренние вычисления модели, и «черные ящики», оценивающие лишь входные и выходные данные.
Методика позволяет повысить точность обнаружения потенциально опасных отклонений в поведении системы.
В экспериментах комбинированный подход показал улучшение эффективности на 15–20% по сравнению с использованием каждого монитора по отдельности.
#news