🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Бывший сотрудник OpenAI представил новое поколение ИИ: его модель Jev в некоторых задачах работает в 200 раз быстрее обычных LLM.
Что сделал стартап TypeSafe AI Диогу Алмейды, коротко:
- Jev не генерирует ответ последовательно, а выдает структурированный результат с вероятностями;
- Это означает, что модель не может галлюцинировать. Из готовых ответов она выбирает тот, что вызывает больше доверия. Правда, Jev все еще может выбрать не тот вариант;
- По этой же причине модель очень быстрая. Ее заставили играть в DOOM: модель получала данные о происходящем и принимала ~10 решений в секунду;
- А еще она на порядок дешевле. Миллион входных токенов стоит всего $0,042, а выходные токены вообще бесплатные. На тест с игрой Jev тратила всего $7 в час.
Модель уже открыта в раннем доступе, вейтлист по ссылке.