Al Talent Hub - ИИ магистратура

#КолонкаМентора Привет! На связи снова Глеб Лесников — Head of Architecture в Dodo Brands 🍕 В первой части я разобрал, почему AI-провайдеры уходят от подписок к оплате за токены, а инференс постепенно становится обычным ресурсом типа CPU или памяти. Теперь — конкретные способы экономии токенов. 0️⃣1️⃣ Использовать MCP по минимуму MCP-описания сильно раздувают контекст, поэтому я рекомендую максимум 1–2 небольших MCP, например, context7. GitHub MCP лучше не использовать — gh CLI ест меньше токенов. То же самое с Playwright: MCP заменяем на playwright-cli. 0️⃣2️⃣ Использовать оптимизированные CLI cargo install toon-format → toon — token-efficient JSON formatter для LLM brew install ripgrep → rg — замена grep brew install fd → fd — замена find brew install jaq → jaq — замена jq ➕Rust Token Killer → фильтрует и дедублицирует вывод разных CLI-команд, может сократить до 90% токенов в выводе базовых команд типа ls. ➕Headroom → ещё более сильный компрессор токенов, включает в себя rtk и многое другое. Нужно упомянуть плагин caveman, но по моим тестам он скорее вредит, чем помогает. Лучше просто добавлять: be brief. 0️⃣3️⃣ Использовать LSP Language Server Protocol даёт агенту доступ к семантике кода: → rename; → goto definition; → find references; → diagnostics. В среднем это экономит токены за счёт того, что агент не шастает по файлам, не декомпилирует библиотеки в поисках сигнатур и т.д. 0️⃣4️⃣Выбирать модели и работать с кэшем с умом ➕Не стоит переименовывать файлы Opus’ом. Для простых batch-изменений лучше ставить low reasoning. ➕С prompt cache важно не сбрасывать кэш внутри одной сессии: не менять модель, не добавлять и не удалять тулы в середине сессии. Они кэшируются по префиксу, соответственно такие изменения приведут к сбросу кэша. 0️⃣5️⃣ Избегать широких промптов Вместо «Поправь ошибки» → «В services/billing падает тест BillingCalculatorTests.cs, почини его, поправив округление». ➡️ Еще разные способы экономии контекста и токенов: ➕ чистить контекст между несвязанными задачами через /clear; ➕ длинные сессии сжимать через /compact — старая история тащится в контекст; ➕ использовать субагентов — у них свой контекст; ➕ держать AGENTS.md / CLAUDE.md коротким — он подмешивается в каждый запрос; ➕ упоминать конкретные файлы: «поправь @OrderService.cs»; ➕ использовать JSON output, если CLI это поддерживает: например, gcloud projects list --format="json"; ➕ запускать тесты и билды с фильтрами, например go test --run SpecificTest. Надеюсь, было полезно и ваши токены перестанут улетать в никуда 😎 А всем, кто решил поступать этим летом в AI Talent Hub, — искренне желаю удачи. Буду рад пересечься с вами на курсах! 🧡 — топ инфа, спасибо! @aitalenthubnews #ITMO #NapoleonIT