L'analogia

Immagina uno specchio leggermente deformato, di quelli da luna park ma molto più sottile, quasi impercettibile. Riflette la realtà, sì, ma allungando certe parti e schiacciandone altre. Se non sai che è curvo, prendi l'immagine deformata per la realtà esatta.

L'AI è uno specchio del linguaggio umano con quel tipo di curvatura. Riflette ciò che le persone hanno scritto, e con esso anche i loro squilibri: stereotipi, sovra-rappresentazioni, punti ciechi. La deformazione è leggera e scritta con tono sicuro, ed è proprio questo a renderla insidiosa: sembra il riflesso fedele, mentre è già un po' piegato.

Come funziona davvero

L'AI impara dai testi prodotti dagli esseri umani, e quei testi non sono uno specchio equilibrato del mondo: certe lingue, culture, professioni e punti di vista sono enormemente più presenti di altri, e gli stereotipi diffusi vi compaiono in continuazione. Il modello assorbe queste sproporzioni e le ripropone: può associare certi ruoli a un genere, dare per scontata una prospettiva culturale, trattare come "normale" ciò che è solo "più frequente nei dati". Si aggiungono le scelte di chi lo costruisce e lo allinea, che spingono in certe direzioni. Il risultato è una neutralità solo apparente.

Cosa puoi fare in pratica

  • Non prendere la prima risposta come "il" punto di vista: chiedi esplicitamente le alternative. "Dammi anche la prospettiva opposta" o "come la vedrebbe qualcuno di una cultura diversa?".
  • Diffida quando l'AI generalizza su gruppi di persone o presenta un'opinione come fatto: chiedile di distinguere i fatti dalle opinioni.
  • Su temi delicati o controversi, incrocia più fonti e più strumenti: ogni AI ha le sue inclinazioni.
  • Quando ti serve un parere bilanciato, chiedi pro e contro espliciti, invece di una risposta secca che nasconde la scelta di campo.

Un malinteso comune

Si pensa che l'AI, essendo una macchina, sia per natura obiettiva e neutrale, "senza pregiudizi perché senza emozioni". È il fraintendimento più rischioso. L'AI non ha emozioni, ma eredita i pregiudizi contenuti nei dati umani, e li ripresenta con l'aria asettica di chi non ha interessi. L'assenza di emozione non è assenza di distorsione: anzi, la veste di una falsa imparzialità che abbassa la tua guardia critica.

Domande frequenti

Il bias si può eliminare del tutto?

No, si può ridurre. Chi costruisce i modelli interviene per attenuare le distorsioni più evidenti, ma non esiste un testo di addestramento perfettamente equilibrato né un giudizio su cosa sia "neutro" che metta tutti d'accordo. Conviene assumere che un margine di distorsione ci sia sempre.

Come me ne accorgo?

Quando l'AI generalizza su categorie di persone, quando presenta un solo punto di vista come ovvio, quando su un tema controverso ti dà una risposta sospettosamente lineare. Un buon test è chiederle la posizione opposta: se fatica o la liquida, lì c'era un'inclinazione.

Tutte le AI hanno gli stessi pregiudizi?

In parte sì, perché attingono a masse di testo simili, in parte no, perché differiscono le scelte di addestramento e di allineamento dei loro creatori. Confrontare la stessa domanda su due strumenti diversi è un modo concreto per far emergere le rispettive inclinazioni.

Un'AI è comunque più obiettiva di una persona, no?

Non necessariamente, ed è un'illusione comoda. Può sembrare più imparziale perché non si arrabbia e cita "i dati", ma quei dati portano dentro i pregiudizi di chi li ha scritti, e l'AI li ripete senza il dubbio che a volte frena una persona. La sua calma non è obiettività: è una distorsione raccontata con voce tranquilla. Il giudizio critico, su questo, resta un compito tuo.