🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
😎 LLM в браузере: Llama 3 и WebGPU для вас
Локальный чат-бот с Llama 3 на WebGPU. Идеально для работы с чувствительными данными без отправки в облако.
Использовать мощные языковые модели локально, прямо в браузере.:
⏺ Интерактивный интерфейс для LLM, работающий полностью на стороне клиента.
⏺ Первая загрузка модели может быть долгой, зависит от скорости интернета.
⏺ Проверьте скорость загрузки модели и её работу на разных браузерах.
🖥 Читать статью
🤓 Indigo Web | #ai