WebLLM (3): WebGPU in Chrome, adapter, device e memoria disponibile

Giovanni Pace

Descrizione

Il primo contatto con la WebGPU in JavaScript: verifichiamo che Chrome la supporti, richiediamo l'adapter e il device della scheda video e leggiamo i limiti di memoria, il passaggio obbligato prima di caricare un modello con WebLLM. Progetto in VS Code con Live Server, tutto da zero.

Cosa imparerai

  • Preparare il progetto in VS Code e avviarlo con Live Server
  • Verificare la WebGPU con navigator.gpu e bloccare tutto con throw new Error se manca
  • requestAdapter: cos'è un GPU adapter e perché è asincrono
  • requestDevice: la differenza tra adapter (informativo) e device (operativo)
  • Leggere maxBufferSize per capire quanta memoria hai a disposizione
  • Liberare la risorsa con device.destroy materiale del corso: https://archety.dev/it/download/web-llm