Cosa cambia davvero
La differenza è dove avviene il "pensiero". Con un'AI online (ChatGPT, Claude, Gemini) la tua domanda viaggia fino ai server dell'azienda, lì viene elaborata, e la risposta torna indietro. Con un'AI locale tutto questo succede dentro il tuo computer: nessun viaggio, nessun server esterno.
Da qui tre conseguenze concrete: privacy piena (i dati restano tuoi), funziona offline (anche senza internet, dopo lo scaricamento iniziale) e costo zero dopo l'installazione (niente abbonamento). Il prezzo da pagare: il modello gira con la potenza del tuo computer, quindi va più piano di un servizio cloud, e i modelli gratuiti scaricabili sono in genere qualche mese indietro rispetto ai migliori a pagamento online.
Quale strumento serve
Due programmi gratuiti coprono quasi tutti i casi.
- LM Studio: ha una grafica simile a ChatGPT, scegli il modello da un catalogo e ci chatti. È la scelta per chi non vuole avere a che fare con i comandi.
- Ollama: si usa da comando ed è diventato lo standard per gli LLM locali. Più leggero e flessibile, un filo più tecnico.
Tutti e due scaricano il modello e lo avviano per te; non devi montare niente a mano.
Esempio concreto
Un avvocato deve far analizzare a un'AI delle bozze di atti che contengono dati riservati dei clienti, e non vuole che finiscano sui server di nessuno. Installa LM Studio, scarica un modello dal catalogo e da quel momento gli incolla i testi direttamente nel programma sul suo computer.
L'AI gli riassume e gli rivede gli atti, esattamente come farebbe una online, ma niente di quei documenti ha mai lasciato il portatile. Va un po' più lenta di ChatGPT e le risposte sono leggermente meno raffinate, ma per il suo problema — tenere i dati dei clienti dentro casa — è la soluzione giusta. La riservatezza vale la mezza marcia in meno.
Quando NON funziona (e come rimediare)
Se il computer non ce la fa
I modelli più capaci chiedono molta memoria e una buona scheda grafica. Se il tuo computer arranca o il modello non parte, scegli un modello più piccolo (le versioni "leggere", spesso indicate con numeri bassi come 3B o 7B): vanno su macchine modeste, sono meno brillanti ma utilizzabili.
Se le risposte sono meno brillanti del cloud
È normale: i modelli locali gratuiti sono più indietro dei migliori online. Per i compiti pratici (riassunti, bozze, riscritture) bastano; per ragionamenti molto complessi, tieni un'AI online per quei casi e usa il locale per tutto ciò che è riservato.
Se pensi che serva sempre internet
Serve solo la prima volta, per scaricare il modello (un file anche di diversi gigabyte). Dopo, l'AI locale funziona completamente offline: in treno, in aereo, senza connessione. È uno dei suoi vantaggi, non un limite.
Un consiglio da chi lo usa davvero
Parti con un modello piccolo, anche se il tuo computer potrebbe reggerne uno grande. Un modello leggero scarica in fretta, parte subito e ti fa capire com'è lavorare con un'AI in casa. Se ti serve più qualità, passi a uno più grande dopo. Cominciare dal modello più potente è il modo più rapido per riempire il disco e scoprire che il computer fatica.
Domande frequenti
È gratis davvero?
Sì: i programmi (Ollama, LM Studio) e i modelli open source sono gratuiti. L'unico "costo" è lo spazio sul disco e la potenza del tuo computer. Non c'è abbonamento né account: scarichi e usi.
I miei dati sono al sicuro al cento per cento?
Sui dati sì: con un'AI locale non escono dal computer, quindi non possono essere raccolti da un provider. Restano valide le precauzioni normali del tuo PC (backup, antivirus, accessi): l'AI locale toglie il rischio del cloud, non sostituisce la cura del computer.
Far girare l'AI in locale è sempre la scelta migliore?
Qui sta il malinteso da sciogliere: no, dipende da cosa ti serve. Per i dati riservati e per lavorare offline il locale è imbattibile. Ma se vuoi la massima qualità, la comodità di un'app pronta e non hai un computer potente, l'online resta più semplice e più bravo. La scelta giusta spesso è mista: locale per ciò che è sensibile, online per il resto.