🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Голосовой AI в реальном мире: задержки, перебивания и другие грабли
Описание
Практический разбор разработки голосового AI-оператора с архитектурой:
MTT/Exolve → Asterisk → AudioSocket → STT → LLM → TTS
На примере работающего проекта расскажу, как мы создавали роботов для холодного обзвона на базе локального AI и масштабировали систему до 30+ одновременных разговоров.
Поговорим о том, как боролись с задержкой голоса, шумами и перебиваниями, снижали нагрузку на серверы, выбирали LLM и настраивали промты. Отдельно разберём решения, которые хорошо выглядели на бумаге, но не выдержали реальной эксплуатации, и подходы, которые сначала казались «костылями», но в итоге помогли довести проект до продакшена.
Также расскажу, как полученный опыт мы использовали при создании IP-звонилки для Windows с AI-суфлёром для менеджеров продаж.
Тезисы
- Архитектура голосового AI-оператора: от телефонии до STT, LLM и TTS.
- Как уменьшить задержки, бороться с перебиваниями и шумами.
- Как выбирать LLM и настраивать промты без потери скорости.
- Как снизить нагрузку на серверы при 30+ одновременных разговорах.
- Какие решения сработали в продакшене, а какие пришлось отбросить.
- Почему временные «костыли» иногда оказываются лучшим практическим решением.
Подробнее о конференции AsterConf