Lezione corrente | Lezione 3/11

WebLLM (3): WebGPU in Chrome, adapter, device e memoria disponibile

WebLLM: un LLM nel browser con WebGPU e JavaScript 0%

Capitoli

Il primo contatto con la WebGPU in JavaScript: verifichiamo che Chrome la supporti, richiediamo l'adapter e il device della scheda video e leggiamo i limiti di memoria, il passaggio obbligato prima di caricare un modello con WebLLM. Progetto in VS Code con Live Server, tutto da zero.
Docente
Prossima lezione WebLLM (4): inference engine e caricamento di Llama 3.2 1B nel browser