🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Исследователи нашли способ сократить расход токенов ИИ-агентов в 50 РАЗ 😮
Исследователи из Google и Университета Пердью представили SKILL.state — новый подход к памяти агентов. Обычно во время длинных задач агент тащит за собой всю историю действий, из-за чего контекст безжалостно и неумолимо разрастается. Здесь же смысл в том, что вместо всей истории сохраняется только структурированное текущее состояние: важные факты, прогресс и данные, необходимые для следующего шага. Остальные, промежуточные рассуждения удаляются.
Итог такого подхода поражает: на тесте из 200 шагов он сохранил точность 94%, потратив 122 тысячи токенов. Для сравнения: агент с суммаризацией истории справился на 84%, сожрав при этом 6,17 миллиона токенов — то есть в 50 раз больше.
Берем на вооружение 🧠
@xor_journal