L'analogia

Pensa a quando racconti un sogno appena sveglio. I buchi del ricordo li riempi senza accorgertene con dettagli che stanno bene nella storia, e li racconti con la stessa naturalezza delle parti che ricordi davvero. Non stai mentendo: il tuo cervello non sopporta i vuoti nel racconto e li tappa con qualcosa di coerente.

L'AI fa la stessa cosa, sempre. Il suo mestiere è completare, non controllare. Davanti a una domanda di cui "non sa" la risposta, non lascia il vuoto: mette la parola più probabile, poi la successiva, finché la frase suona giusta. Il risultato è fluido e sicuro, e proprio per questo inganna: la sicurezza con cui te lo dice non c'entra niente con quanto è vero.

Come funziona davvero

L'AI non consulta un archivio di fatti quando ti risponde. Genera testo prevedendo, parola dopo parola, cosa è statisticamente probabile che venga dopo, basandosi sugli enormi quantità di testo con cui è stata addestrata. Non c'è un momento in cui controlla "è vero?": non ha il concetto di vero e falso, ha il concetto di probabile.

Su un fatto comune e ripetuto ovunque (la capitale della Francia) la parola probabile coincide quasi sempre con quella giusta. Su un fatto raro, recente o molto specifico (la data esatta di un evento di nicchia, il titolo preciso di uno studio, un articolo di legge) la rete di probabilità è rada: lì l'AI riempie con qualcosa di plausibile, e plausibile non vuol dire vero. Le citazioni inventate sono il caso da manuale: la forma di una citazione è facilissima da imitare, il contenuto esatto no.

Cosa puoi fare in pratica

Non puoi spegnere le allucinazioni, ma puoi rendertele innocue:

  • Chiedi le fonti e aprile davvero. Un link che non si apre o non dice quello che l'AI sostiene è un campanello.
  • Tratta come "da verificare" ogni dettaglio specifico: numeri, date, nomi propri, citazioni, riferimenti normativi. Sono i punti dove inventa di più.
  • Accendi la ricerca web quando ti servono fatti aggiornati: ancorare la risposta a pagine reali riduce molto l'invenzione.
  • Chiedile di dichiarare l'incertezza: "se non sei sicuro, dillo invece di indovinare". Non la rende infallibile, ma la frena.
  • Sulle decisioni che pesano (salute, soldi, legge) usala per capire e farti le domande, mai come fonte unica.

Un malinteso comune

Si pensa che le allucinazioni siano un difetto da poco, che i modelli più potenti faranno sparire del tutto. Non è così. Inventare non è un guasto occasionale: è il rovescio del meccanismo che rende l'AI utile, cioè il prevedere testo plausibile. I modelli migliori allucinano meno e su cose più difficili, ma non azzerano il fenomeno, perché continuano a fare la stessa cosa: completare, non verificare. Aspettarsi un'AI che non sbaglia mai significa fraintendere cosa è.

Domande frequenti

Succede anche con la ricerca web attiva?

Meno, ma sì. Ancorarsi a pagine reali riduce le invenzioni, però l'AI può ancora leggere male una fonte, citarla a sproposito o mischiare un dato vero con uno inventato. La ricerca web abbassa il rischio, non lo elimina.

È colpa mia se allucina?

No, il meccanismo è suo. Però una domanda vaga o che dà per scontata una premessa falsa aumenta le invenzioni: se chiedi "quali sono i tre studi che dimostrano X", l'AI tende a fornirteli anche se non esistono, perché glieli hai chiesti. Domande oneste e aperte aiutano.

I modelli a pagamento allucinano meno?

In genere sì, sbagliano meno e su questioni più ostiche. Ma non sono immuni: anche il modello più avanzato, su un dettaglio raro o recente, riempie il vuoto con qualcosa di plausibile. Il prezzo cambia la frequenza, non la natura del fenomeno.

Più l'AI sembra sicura, più è probabile che abbia ragione?

No, ed è l'equivoco che fa più danni. La sicurezza è una caratteristica dello stile, non della sostanza: l'AI scrive una cosa falsa con lo stesso tono fluido e deciso con cui scrive una cosa vera, perché in entrambi i casi sta solo completando la frase più probabile. Non leggere la sicurezza come affidabilità. L'unico modo per sapere se ha ragione resta controllare.