A quella cena nessuno ha fatto la domanda giusta

Sabato sera, cena con amici. Tavola apparecchiata, vino aperto, e ad un certo punto — come sempre più spesso — arriva il tema AI.

Tutti hanno qualcosa da dire. E lo dicono con una sicurezza che mi colpisce ogni volta.

"Bisogna stare attenti con i più giovani." "Io lo uso solo per certe cose." "Questo modello è meglio di quello." "Bisogna essere critici con quello che restituisce."

Annuisco. Ascolto. C'è del vero in tutto questo.

Ma c'è una cosa che nessuno dice. Una domanda che nessuno fa. E più ascolto, più mi pesa questo silenzio.

Ad un certo punto la faccio io: "Ma voi vi siete mai chiesti da dove viene fuori quello che l'AI vi risponde?"

Silenzio di un secondo. Poi qualcuno sorride. "Beh, dai dati di internet." Un altro aggiunge: "È addestrata su miliardi di testi." Qualcun altro cambia argomento.

Nessuno coglie quello che sto cercando di dire. O forse non riesco a dirlo nel modo giusto. Resto lì, con quella perplessità che non riesco a mettere giù.

Ci penso mentre torno a casa.

Se chiedo a un modello di AI quanto fa due più due, il problema non si pone. La risposta è quella. Punto.

Ma se chiedo — come è successo a me qualche settimana fa, per curiosità — "spiegami cosa significa essere buono", la risposta che ricevo non è neutra. Non può esserlo. Qualcuno ha deciso cosa includere in quella risposta. Quali testi usare per costruirla. Quale idea di bene, quale cultura, quale visione del mondo far pesare di più.

Non è un problema tecnico. È una scelta. Fatta da qualcuno, da qualche parte, con criteri che non conosco e che probabilmente non ti verranno mai spiegati.

Pensa a come funziona un giornale. Sai che ha una linea editoriale. Sai che seleziona le notizie, dà più spazio ad alcune storie, ignora altre. Non ti fidi ciecamente — ti fidi sapendo che c'è un punto di vista dietro.

Con l'AI facciamo esattamente il contrario. La trattiamo come se fosse neutra. Come se fosse uno specchio della realtà invece che una costruzione della realtà.

E questa — non la velocità, non la potenza, non i posti di lavoro — questa è la cosa che mi preoccupa di più.

Non quello che l'AI sa fare. Ma quello che ci fa credere di sapere.

Quella sera a cena non sono riuscito a spiegarlo in modo che attecchisse. Gli altri argomenti sembravano più urgenti, più concreti, più vicini.

Forse hanno ragione loro. Forse sto sopravvalutando il problema.

O forse è più comodo non farsela — quella domanda. Perché se la fai davvero, cambia il modo in cui guardi ogni risposta che ricevi. Da qualsiasi fonte.

E tu — ti fidi di quello che l'AI ti risponde? E sai perché?