🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
web-llm
WebLLM is a high-performance in-browser LLM inference engine that brings language model inference directly onto web browsers with hardware acceleration. Everything runs inside the browser with no server support and is accelerated with WebGPU.
Ссылка скрыта