🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🪟 Microsoft начала считать токены даже у своих инженеров
По данным из внутреннего меморандума, Microsoft ограничивает расходы сотрудников на использование AI-инструментов.
✏️ Причина довольно прозаичная: длинные запросы к моделям стоят денег, а в масштабе тысяч разработчиков счёт быстро растёт.
⬇️ Внутри даже обсуждают
⬇️«токенмаксинг» — привычку
⬇️скармливать модели огромный
⬇️контекст, чтобы получить
⬇️результат получше.
AI постепенно проходит тот же путь, что и облака: сначала «используйте сколько хотите», потом появляются квоты, бюджеты и FinOps 🙂
А как у вас на работе ❓
👍 — уже считаем токены и бюджеты
🔥 — пока AI за счёт компании без ограничений
🐸 Библиотека программиста