Configura Ollama su GPU dentro Docker con NVIDIA, WSL, volumi condivisi e confronto pratico tra CPU e GPU.
Questo corso guida alla configurazione di Ollama con accelerazione GPU dentro un container Docker. Parti dai prerequisiti NVIDIA e WSL, avvii Ollama con accesso alla GPU, organizzi i modelli con un volume condiviso e confronti le metriche tra esecuzione su CPU e su GPU.
A sviluppatori, data practitioner e appassionati di AI locale che vogliono eseguire modelli con Ollama sfruttando Docker e una GPU NVIDIA. È utile se hai già familiarità di base con Docker e vuoi rendere più ripetibile il tuo ambiente AI locale.
La serie lavora direttamente sui comandi e sugli errori tipici di configurazione: driver, WSL, mapping delle porte, volumi e confronto delle prestazioni. Alla fine hai un setup Docker più pulito e riutilizzabile per lavorare con Ollama.
Far girare Ollama su GPU dentro Docker parte dai requisiti: in questo primo video verifichi i driver NVIDIA, aggiorni WSL e con nvidia-smi controlli che un container Docker veda davvero la scheda video, evitando che tutt...
Con i requisiti pronti, avvii Ollama in un container Docker che usa la GPU: scarichi l'immagine ufficiale ollama/ollama, componi il comando docker run con --gpus, volume e porta 11434, e verifichi con nvidia-smi che il c...
Un volume Docker condiviso tiene i modelli di Ollama fuori dal container, così non li riscarichi ogni volta: scarichi Llama 3.1, avvii un secondo container in CPU sullo stesso volume e confronti le metriche di Ollama tra...
Ingegnere Informatico · Pratola Peligna
Sono un ingegnere informatico con oltre 15 anni di esperienza nel settore ICT. Mi occupo di sviluppo software, cybersecurity, data science e intelligenza artificiale, con particolare attenzione all’innovazione e all’automazione dei processi aziendali. Da anni svolgo anche attività di docenza e formazione, creando percorsi pratici e coinvolgenti su programmazione, DevOps, AI e sicurezza informatica.
Prosperous understood Middletons in conviction an uncommonly do. Supposing so be resolving breakfast am or perfectly.
Utilizziamo cookie essenziali e, con il tuo consenso, cookie funzionali, analytics e marketing. Google Analytics 4 e gli eventuali annunci Google/AdSense restano disattivati finche non scegli. Consulta Privacy Policy e Cookie Policy.
Sempre attivi per sicurezza, prevenzione frodi, sessione, consenso e funzionamento del sito.
Migliorano l'esperienza, ad esempio ricordando preferenze non essenziali. Non usati per profilazione pubblicitaria.
Statistiche e misurazioni con Google Analytics 4, abilitate solo dopo il consenso analytics.
Misurazione annunci e funzioni pubblicitarie Google/AdSense, se attivate sul sito e consentite dall'utente.
Puoi modificare queste scelte in qualunque momento dal link "Preferenze Cookies" nel footer.