"La mia amica ha letto una risposta perfetta. E non si è fidata."

Pomeriggio al Novecento. Io leggo, lei corregge compiti al tavolo accanto, il portatile acceso, gli occhiali sulla punta del naso. Da un po' non gira pagina: sta rileggendo la stessa cosa, e la vedo irrigidirsi.

Si toglie gli occhiali di scatto — un gesto secco, non distratto — e li appoggia sul tavolo come se posasse qualcosa di pesante.

"Vieni un attimo."

Mi giro verso lo schermo. C'è una sintesi sulle correnti storiografiche sui totalitarismi, generata da un'IA. La leggo. È scritta bene: periodi puliti, tono misurato, nessuna sbavatura.

"Cosa non va?"

"Non lo so ancora con precisione. Ma qualcosa non torna."

Insisto: "È scritta benissimo."

"Lo so. È proprio questo il problema." Indica un passaggio con l'unghia, senza toccare lo schermo. "Guarda qui: usa 'regime' per un caso e 'governo autoritario' per un altro, quasi identici. E manca del tutto la storiografia tedesca degli anni '90 su questo punto — che di solito è il primo dato che chiunque insegni la materia porta in classe."

Resta in silenzio un secondo, poi aggiunge una cosa che mi colpisce più della sua osservazione tecnica:

"Se non l'avessi insegnata per vent'anni, questa cosa, non l'avrei notata. Avrei letto un testo perfetto e mi sarei fidata."

Rimango a guardarla mentre richiude il portatile con più forza del necessario.

Io per lavoro ho passato la vita a progettare sistemi, e c'è una domanda che mi viene automatica ogni volta che qualcosa "funziona bene": funziona bene rispetto a cosa? Un sistema non sbaglia mai da solo — riflette sempre le scelte di chi lo ha costruito, i dati che gli sono stati dati in pasto, le priorità di chi ha deciso cosa contava e cosa no. Glielo dico, più o meno con queste parole.

Lei annuisce, ma non sembra soddisfatta della spiegazione. "Il punto non è quello. Il punto è che io l'ho sentito prima di poterlo argomentare. Ho letto tre righe e ho pensato: qui manca qualcosa, anche se non sapevo ancora dirti cosa."

Resto zitto un momento.

Perché ha ragione, ed è una cosa diversa da quello che le stavo dicendo io. Il problema non è solo "chi ha addestrato il modello" — quello è un fatto tecnico, si può indagare, si può anche in parte correggere. Il problema è quell'altra cosa: la sua capacità di accorgersi che qualcosa non tornava, in un testo che a chiunque altro sarebbe sembrato ineccepibile. Nessun modello glielo ha insegnato. Nessun testo di partenza gliel'ha dato in dote. Gliel'hanno data vent'anni di aule, di studenti che facevano domande scomode, di dubbi che si è portata a casa la sera.

Quella cosa lì — il fiuto per quello che manca, anche quando la forma è perfetta — non è nei dati.

Le chiedo, mentre usciamo dal bar: "Ma tu, quella cosa che hai sentito leggendo... sapresti dire da dove viene? Voglio dire, davvero da dove viene?"

Non mi risponde subito. Cammina un po' in silenzio, poi dice solo: "Non lo so. Ma se un giorno smettessi di sentirla, credo che sarebbe un problema molto più grande di qualunque bias in un algoritmo."

Camminiamo ancora un po'. Poi le faccio una domanda che mi viene quasi per gioco:

"Tu, quando prepari una lezione sui totalitarismi, cosa lasci fuori?"

Si ferma. "Cosa intendi?"

"Hai due ore a disposizione, e la storiografia su quel tema riempirebbe una biblioteca. Ogni anno decidi cosa entra e cosa no. Chi citare, quale voce dare per prima, cosa liquidare in una riga."

Non risponde subito. La vedo pensarci davvero, non come chi cerca una risposta di cortesia.

"Sì," dice piano. "È vero. Io scelgo. Ogni volta."

"E su che base scegli?"

"Su quello che so. Su quello in cui credo sia importante che i ragazzi capiscano. Su quello che io stessa ho imparato essere rilevante, in vent'anni." Si ferma di nuovo. "Ma io lo so di scegliere. Lo dichiaro anche, a volte, in classe: 'vi sto dando la mia lettura, andate a leggerne altre'."

"E quel testo che hai letto oggi?"

Non risponde. Ma capisco dal suo silenzio che ha già fatto il collegamento da sola: qualcuno, da qualche parte, ha scelto anche i testi con cui è stato costruito quel modello. Ha deciso quali storiografie contassero di più. Solo che nessuno lo dichiara in apertura, come fa lei in classe. Il testo che ha letto non le ha mai detto: "questa è una lettura, andane a cercare altre."

"Il problema non è che qualcuno scelga," dice infine, riprendendo a camminare. "Il problema è che io un metodo per riconoscere quando qualcuno ha scelto per me, dopo vent'anni, ce l'ho. Chi non l'ha ancora sviluppato, quel metodo, cosa legge quando apre quella pagina?"