Le AI hanno una tendenza nota: completare anche quando non hanno abbastanza informazioni. Inventano un file, un percorso, una decisione presa in una conversazione che non c'è mai stata. Si chiama allucinazione, e quando lavori sul serio costa errori veri — codice che si rompe, file persi, scelte sbagliate prese al posto tuo.
Un giorno stavo pianificando una cosa complessa con Claude. Gli ho dato un riferimento ambiguo: «inserisci questo nell'elenco delle cose da fare in posizione 3.6 — la 3.5 era prevista per oggi, se non sbaglio».
Il problema è che quel «3.6» non corrispondeva a niente di chiaro nella conversazione in corso. Potevano essere almeno quattro cose diverse: una numerazione di un elenco che avevamo guardato prima, una di un altro documento, una scaletta mia che non avevo mai scritto da nessuna parte, o un riferimento a una chat dei giorni precedenti.
Claude non ha indovinato.
Non ha piazzato il contenuto in una posizione a caso. Non ha riscritto in silenzio l'elenco sperando di azzeccarci. Non ha toccato nessun file per "interpretare" cosa intendessi. Invece ha cercato nel mio archivio Timo le numerazioni che potevano corrispondere, ne ha trovate alcune plausibili, e mi ha chiesto conferma su tre punti precisi prima di mettere mano a qualcosa di importante.
Le AI affidabili non sono quelle che parlano sempre. Sono quelle che sanno quando non parlare.
E qui c'è il punto che riguarda Timo. Questo comportamento non è stato un caso fortunato. È il risultato di una regola che ho scritto io, una volta, nel mio archivio: non inventare mai nomi di file o percorsi; se non conosci un nome esatto, chiedi prima di procedere. Quella regola vive nel tempo. Ogni nuova sessione di Claude la legge prima di rispondere, e si comporta di conseguenza.
È un tipo di memoria diverso da quello a cui si pensa di solito. Non è memoria di dati — è memoria di comportamento. Scrivi una volta come vuoi che la tua AI si comporti, e tutte le sessioni future obbediscono. Il rapporto cambia: da "spero che indovini" a "lavoriamo insieme sui fatti".
— Rodolfo