🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
VeriTrail: Выявление галлюцинаций и отслеживание происхождения в многоэтапных AI-процессах
(VeriTrail: Detecting hallucination and tracing provenance in multi-step AI workflows)
ссылка
Microsoft Research представили систему Veritrail, которая помогает обнаруживать «галлюцинации» — случаи, когда ИИ генерирует неправдоподобную или вымышленную информацию.
Система отслеживает происхождение данных, позволяя понять цепочку вычислительных шагов и источники информации, что повышает прозрачность работы ИИ.
Veritrail помогает пользователям анализировать и контролировать сложные многошаговые рабочие процессы ИИ, объясняя, как и почему были получены те или иные результаты, и упрощает анализ системы для специалистов.
#news