Quale strumento scegliere
Due programmi gratuiti, a seconda di quanto ami i comandi.
- LM Studio: interfaccia grafica con un catalogo di modelli da cui scegli e scarichi con un clic, poi ci chatti come con ChatGPT. La scelta per chi vuole solo usare l'AI senza toccare il terminale.
- Ollama: si comanda da terminale, è leggero ed è diventato lo standard per l'AI locale. Un comando scarica e avvia il modello. Più adatto a chi non si spaventa di una riga di testo.
Se è la prima volta, comincia da LM Studio: vedi tutto a schermo e capisci cosa stai facendo.
Come si fa
Con LM Studio (grafico)
- Scarica LM Studio dal sito ufficiale (lmstudio.ai) e installalo come un normale programma.
- Scegli un modello dal catalogo dentro l'app. Cerca un modello piccolo per iniziare (le versioni leggere, indicate con numeri bassi come 3B o 7B).
- Scaricalo (è un file di qualche gigabyte) e aspetta la fine.
- Chatta. Apri la finestra di conversazione e scrivi: l'AI risponde dal tuo computer.
Con Ollama (comando)
- Scarica Ollama dal sito ufficiale (ollama.com) e installalo.
- Avvia un modello dal terminale. La sintassi operativa:
ollama run llama3.2
Questo scarica il modello (la prima volta) e apre subito la chat nel terminale. Per provarne un altro, cambia il nome del modello con uno del catalogo di Ollama.
- Scrivi e basta. Da lì conversi come con qualsiasi assistente, ma tutto resta in locale.
Esempio concreto
Giulia ha un portatile normale, senza scheda grafica potente, e vuole un'AI privata per le sue note personali. Installa LM Studio, e nel catalogo sceglie un modello da 3B (uno dei più leggeri) perché il suo computer non regge i grandi. Lo scarica in dieci minuti.
Apre la chat e le incolla i suoi appunti chiedendo un riassunto. L'AI risponde in qualche secondo, un po' più lenta di ChatGPT ma del tutto sufficiente. Niente di quegli appunti è uscito dal portatile, non ha fatto nessun account, e da domani può usarla anche in treno senza connessione. Il modello piccolo è stato la mossa giusta: uno grande non sarebbe nemmeno partito sul suo computer.
Quando NON funziona (e come rimediare)
Se è troppo lento o il modello non parte
Quasi sempre il modello è troppo grande per il tuo computer. Scarica una versione più piccola (numero più basso) o una variante "quantizzata" (compressa, più leggera): nel catalogo di LM Studio sono segnalate. Un modello che gira piano è meglio di uno che non parte.
Se non sai quale modello scegliere
Il catalogo è pieno e confonde. Regola semplice: per un computer normale, parti da un modello generico da 3B o 7B di un nome noto (Llama, Mistral, Gemma, Qwen, Phi). Provane uno, e se le risposte ti bastano resti lì; se ti serve di più e il computer regge, sali di taglia.
Se lo scaricamento è enorme o si blocca
I modelli pesano gigabyte: con una connessione lenta ci vuole tempo. Scarica un modello piccolo per primo (meno gigabyte), e fai gli scaricamenti grossi quando non ti serve la linea per altro. Se si interrompe, di solito riprende da dove era; in caso, rilancialo.
Un consiglio da chi lo usa davvero
Prima di scaricare, controlla quanta memoria (RAM) ha il tuo computer: è quella, più della scheda grafica, a decidere quali modelli puoi far girare. Come riferimento grezzo, con 8 GB stai sui modelli piccoli, con 16 GB sali di una taglia, con di più puoi osare. Sapere il tuo limite ti evita di scaricare gigabyte di un modello che poi non parte.
Domande frequenti
Serve una scheda grafica potente?
Aiuta molto per la velocità, ma non è obbligatoria per i modelli piccoli: girano anche solo con il processore e la memoria, semplicemente più piano. Per cominciare e capire se l'AI locale fa per te, un computer normale basta; la scheda potente serve se vuoi modelli grandi e veloci.
Posso usarla davvero senza internet?
Sì, dopo lo scaricamento iniziale. Il modello vive sul disco e gira in locale: una volta scaricato, stacca pure la connessione. È uno dei motivi per cui si sceglie l'AI locale, insieme alla privacy.
Un'AI locale è capace come ChatGPT?
Per i compiti pratici di tutti i giorni (riassumere, riscrivere, fare bozze) un buon modello locale se la cava. Sui ragionamenti più complessi i migliori modelli online restano avanti. Molti tengono entrambe le cose: il locale per ciò che è privato o offline, l'online quando serve il massimo della qualità.