Lezione corrente | Lezione 1/11
WebLLM (1): far girare un LLM nel browser, senza server e senza API
WebLLM: un LLM nel browser con WebGPU e JavaScript
0%
Capitoli
WebLLM permette di eseguire un large language model direttamente nel browser, sulla GPU del tuo computer, senza inviare richieste a server di intelligenza artificiale o API a pagamento. In questa introduzione vediamo perché oggi l'AI generativa gira nel cloud, cosa cambia con l'edge computing e come il browser divide il lavoro tra web renderer (GPU) e JavaScript engine (CPU).
Prossima lezione
WebLLM (2): LLM, token, prompt, tokenizer, addestramento e inferenza