🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🔒 «Не выдумывай» не работает: как заставить LLM не врать про цифры
На Хабре вышла практическая архитектура фактчекинга для контента, где ошибка дорого стоит, — налоги, медицина, финансы. Главная мысль: «не галлюцинируй» в промпте — не метод, его заменяют структурные ограничения.
Все числа живут в едином источнике истины: ключ, значение, дата и источник. Модель подставляет значение по ключу, а проверочный гейт требует, чтобы каждое число в тексте совпало с записью. Нет записи — текст не проходит. Плюс отдельный контрольный проход с правилом «сомнение = отказ», срок годности фактов 90 дней и очередь на перепроверку.
Приём переносится на любой генеративный конвейер: от юридических ответов до карточек товаров. Чем меньше модель решает про цифры сама — тем меньше ей верят на слово, а у каждого факта остаётся проверяемый источник.
🌐 Источник: Habr
#ИИ #LLM #фактчекинг #галлюцинации #промпты