🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
⚡ Промпт на 300 токенов вместо 9500: как ужать ответ модели в 30 раз
Структурированный вывод ломается на длинном JSON, а правка «подвинь кровать левее» стоит как сборка сцены с нуля. Дело не в модели, а в формате ответа.
Как работает. Вместо JSON-схемы — компактный текстовый формат: одна строка на сущность, умолчания не пишутся, анимация — ключами с отступом. Модель отвечает не документом, а патчами: знакомый идентификатор заменяет сущность, новый — добавляет. Типовые конструкции вынесены в макросы: модель пишет одну строку, а геометрию считает код.
Что это даёт: ответ ужался до 300 токенов — в 30 раз меньше исходного JSON, в 12 раз дешевле и в 13 раз быстрее. Плюс низкий уровень размышлений режет расход ещё в несколько раз без потери качества.
Тот же принцип для видеогенерации: вместо уговоров текстом — 3D-превиз из примитивов, а в промпте короткая позитивная инструкция «операторскую работу бери из референса, объекты — из описания». Списки запретов работают хуже.
🌐 Источник: Habr (GPTunneL)
#ИИ #Промптинг #LLM #Видеогенерация #Агенты