🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🧠 Почему LLM «забывают» факты: знание есть, доступа нет
Исследователи Google Research и Technion выяснили: у топовых моделей галлюцинации чаще возникают не из-за нехватки знаний, а из-за трудностей с их извлечением. 95–98% фактов модель хранит, но 26–34% не может вспомнить напрямую.
Практический вывод: если модель не ответила, это не значит, что она «не знает». Дополнительное время на размышление и переформулировка запроса возвращают 40–65% «потерянных» фактов. Редкие и «обратные» связи модель распознаёт, но не генерирует сама.
Что делать: прежде чем строить RAG под каждый неверный ответ, попробуйте более сильный reasoning, уточняющие вопросы и другие формулировки — часто это дешевле и быстрее. Оценивать модели стоит по доступности фактов, а не по точности ответов: бенчмарк WikiProfile открыт.
🌐 Источник: VentureBeat
#ИИ #LLM #RAG #галлюцинации #исследование