Precedente
Lezione corrente | Lezione 1/11

WebLLM (1): far girare un LLM nel browser, senza server e senza API

WebLLM: un LLM nel browser con WebGPU e JavaScript 0%

Capitoli

WebLLM permette di eseguire un large language model direttamente nel browser, sulla GPU del tuo computer, senza inviare richieste a server di intelligenza artificiale o API a pagamento. In questa introduzione vediamo perché oggi l'AI generativa gira nel cloud, cosa cambia con l'edge computing e come il browser divide il lavoro tra web renderer (GPU) e JavaScript engine (CPU).
Docente
Prossima lezione WebLLM (2): LLM, token, prompt, tokenizer, addestramento e inferenza