🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
⚡ Научите свою LLM копить опыт: системный промпт, который растёт сам
Обычно вы пишете системный промпт один раз — и модель решает каждую новую задачу с нуля, забывая удачные приёмы прошлых раз. Техника System Prompt Learning (SPL) закрывает именно это: модель сама сохраняет рабочие стратегии решения и подставляет их в свой промпт, когда встречает похожую задачу.
Как устроено: каждый запрос автоматически относится к одному из 16 типов (арифметика, логика, код и т.п.), из базы извлекается накопленная стратегия для этого типа и добавляется в системный промпт. В режиме обучения модель пересматривает стратегии после каждой серии задач — база улучшается сама. Примеры стратегий читаемые: «прочитай условие, выпиши данные, реши по шагам, проверь ответ».
Эффект на сложных задачах заметный: на AIME24 точность выросла с 23% до 30%, на Arena Auto Hard — с 29% до 37,6% при обучении всего на 400 примерах. Ставить просто: pip install optillm, поднять прокси-сервер и использовать модель с префиксом spl- — она заработает с любой OpenAI-совместимой LLM.
Приём подходит всем, кто строит ботов и агентов на API: вместо ручного промпт-инжиниринга под каждый класс задач вы один раз включаете самообучение. Это же хорошая идея для собственных систем — вести базу удачных стратегий и подмешивать их в промпт по типу задачи.
🌐 Источник: Hugging Face Blog
#ИИ #промпты #LLM #агенты #инструменты