🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
⚡ Параллельные агенты: когда быстрее, а когда просто дороже
Один сценарий — лендинг, письмо и программа эфира — прогнали на одной модели тремя способами. Входные данные одинаковые: 6 файлов, 4141 слово.
Последовательно одним агентом: 423 с, $2,74, 141 383 токена контекста. Параллельно через доску-оркестратор: 307 с, но $6,15 (в 2,24 раза дороже) и 532 128 токенов. Вручную параллельно: 361 с и $5,73.
Ускорение даёт не «доска», а разделение задачи на изолированные ветки со свежим контекстом. Оркестратор добавляет удобство контроля — видно состояние веток, — но не качество. Один и тот же набор файлов уходит в каждую ветку, поэтому токены умножаются.
Как применять: параллельте только по-настоящему независимые задачи. Суммарное машинное время растёт (499 с против 423 с) — быстрее ждать, но дороже токенами. А проверка качества отдельным агентом-судьёй на разовой задаче может стоить дороже самой задачи.
🌐 Источник: Habr
#ИИ #Агенты #LLM #Автоматизация #Оркестрация