"Lo stregone nel telefono"

Stiamo prendendo un caffè dopo un pranzo con amici.

Anna, seduta sul divano, tiene in mano il telefono con un'espressione che conosco bene — la stessa che ho visto su tanti volti quando la tecnologia fa qualcosa che non si aspettavano. Me lo mostra: una notizia in evidenza, parlava di un terriccio per piante.

Anna indica lo schermo e dice: "Questo telefono è stregato. Mi ha appena suggerito di comprare quel tipo di terriccio per le piante di cui parlavo ieri con la vicina in giardino. Com'è possibile? C'è una persona dentro che mi ascolta?"

Io sono lì con il mio caffè, e per un attimo — prima ancora di rispondere — mi accorgo di una cosa: la domanda che mi sta facendo non è davvero "come funziona il telefono". È un'altra. È "posso ancora fidarmi di quello che vedo intorno a me?"

Gliel'ho spiegato con sicurezza. Ma dentro mi si è aperta una domanda che non le ho detto: se un giorno chi controlla quel sistema decidesse di usarlo non per suggerirle il terriccio, ma per convincerla di qualcos'altro — se ne accorgerebbe? Me ne accorgerei io?

Quello che le ho spiegato

Le dico che non c'è nessuno stregone e nessuna spia. Che quello che ha davanti non è una mente che la ascolta, ma qualcosa di molto più semplice e molto più freddo: un sistema che riconosce schemi.

Provo a farle capire con un paragone che uso spesso, anche al lavoro: fino a poco tempo fa, un computer era come un ricettario rigidissimo. Se volevi che facesse una torta, dovevi scrivergli ogni passaggio — "prendi due uova", "gira in senso orario". Se saltavi un passaggio, o succedeva qualcosa di imprevisto, si bloccava.

L'Intelligenza Artificiale ribalta questo meccanismo. Invece di dargli una ricetta, la si tratta come un apprendista senza esperienza ma con una memoria e una velocità di calcolo sovrumane. Non gli si spiega cosa cercare — gli si mostrano milioni di esempi, e lui trova da solo lo schema.

Per riconoscere un gatto in una fotografia, non gli si spiega che ha i baffi e le orecchie a punta: gli si mostrano dieci milioni di foto di gatti e dieci milioni di foto di cose che non lo sono. Analizzando quella marea di dati, il sistema nota da solo quali forme, sfumature, linee ricorrono. Alla fine, davanti a una foto mai vista, sa dire "al 99% è un gatto" — non perché stia pensando, ma perché quell'immagine assomiglia moltissimo allo schema che ha memorizzato.

Con Anna è successo lo stesso: il telefono ha incrociato dati che aveva già — (età, ricerche passate, stagione, abitudini) — e ha calcolato che, statisticamente, chi ha interessi simili ai suoi in quel periodo compra o cerca proprio quella cosa.

Le dico che oggi questi sistemi fanno soprattutto tre cose. Riconoscono — è quello che sblocca un telefono guardando un volto, o blocca una carta di credito davanti a una spesa insolita. Prevedono — è il meccanismo dietro il prossimo film suggerito, o la strada con meno traffico. Generano — è la novità di questi anni: quando un sistema scrive un testo, non lo copia da nessuna parte; calcola, parola dopo parola, quale sia la continuazione più probabile, perché ha letto miliardi di pagine e ne ha assorbito gli schemi.

E le dico anche l'unica cosa che, di tutto il discorso, vorrei restasse: che se un sistema scrive la ricetta di un risotto perfetto, non sa che sapore ha il riso. Non ha fame. Non ha mai avuto freddo, né ha mai aspettato qualcuno a cena. Sta solo mettendo parole nell'ordine in cui, statisticamente, ha visto che funzionano.

Quello che non le ho spiegato

Anna annuisce. Sembra rassicurata — ha capito il meccanismo, ha uno schema anche lei ora per pensare alla cosa che la spaventava. Il fatto che qualcuno stia dall'altra parte, e che quel qualcuno decida cosa il sistema mostra e cosa no, non le passa nemmeno per la testa. E perché dovrebbe: gliel'ho appena spiegato io, con sicurezza, che è "solo un meccanismo".

Ma è proprio questo che continua a inquietarmi. Non il meccanismo. Chi lo tiene in mano.

Lei si fida di me perché mi conosce da una vita. Ma quella stessa fiducia — l'ho vista un attimo prima, intatta, mentre guardava lo schermo — l'avrebbe data a chiunque le avesse parlato con la stessa sicurezza con cui ho parlato io. Compreso un sistema pensato da chi non la conosce, non la vedrà mai, e non ha nessun motivo per proteggerla più di quanto le convenga per far tornare i conti a qualcun altro.

Se qualcuno può prevedere ogni tua prossima mossa, cosa gli impedisce, un giorno, di guidarla — invece di limitarsi a prevederla? E chi se ne accorgerebbe per primo: tu, o Anna?