🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Ну что, дорогие читатели, успели уже забыть про нас? А мы, тем временем, живы и решили вас развлечь серией свежих зарисовок про дивный новый мир.
И первая зарисовочка - про то, что эйчары теперь действительно будут вынуждены работать с “ИИ-сотрудниками” - только совершенно не так, как планировалось. Сегодня будет только присказка, но она хороша сама по себе, ибо она про зависимость.
В предыдущих сериях мы увидели, как из LLM возникли ИИ-агенты, то есть сущности, которые могут не только ля-ля, но и мешки ворочать - например, программировать или автоматизировать корпоративные процессы. И это всем настолько понравилось, что корпорации наперебой ринулись внедрять их в работу.
Тут-то и выяснилось, что приличный агент, построенный на модели первого эшелона (например последний Claude или чатик наш GPT) для выполнения реально сложных задач - кодинга, сложной автоматизации, дизайна, видео и тому подобных вещей - кушает очень много токенов (то есть элементов, из которых LLM собирает свои мысли, каждый из которых равен примерно одному слову из четырех-пяти символов). А токены стоят денег.
А нужно сказать, что работа с LLM-агентом (не важно, кодит он, пишет музыку, генерит видео или дизайн) - страшно увлекательная штука с не на 100% предсказуемым результатом. Вы пишете промпт, запускаете машинку, ждете, и на выходе получаете что-то похожее, но не идеально соответствующее замыслу.
Вы чуть правите промпт, чтобы он точно соответствовал идеалу, и перезапускаете агента - а он, зараза, исправляется в нужном вам месте, но косячит в другом. Вы снова правите промпт (и, может быть, что-то еще правите руками) и снова запускаете черный ящик. И так много раз - и чем сложнее задача, тем больше шансов на отклонение в каждом.
Наши источники, увлекающиеся подобным, рассказывают, что за этой игрой в казино с неизвестными, но не нулевыми шансами получить нужный (а может быть и более интересный, чем ожидалось) результат, можно проводить часы и бессонные ночи, и тратить при этом сотни и тысячи долларов на токены.
Психиатрам-наркологам явно будет с чем работать в этом прекрасном будущем, но речь не об этом, а о том, что тысячи долларов, как правило, уходит не из собственного бюджета, а из корпоративного. Уже широко известна история про UBER, технический директор которого жаловался на то, что за пару месяцев просадил годовой бюджет на ИИ из-за того, что программисты постоянно использовали агентов.
Выяснилось, что особо ретивый игрок в рулетку вайб-кодинга может потратить несколько своих зарплат в месяц на токены, написав миллионы строк кода, но при этом результат в виде надежно работающего функционала совершенно не гарантирован. И вот тут все те, кто утверждали, что увольняют джуниор программистов, чтобы не тратить зарплату на решение простых задач, начали грустно шутить в стиле “мы наняли джуниор-разработчика, чтобы не тратить токены на простые задачи”. А что это значит для эйчаров, мы поговорим в следующем посте завтра.