La trappola dell’Intelligenza Artificiale: il prezzo siamo noi

Io credo che dovremmo cominciare a guardare i servizi di intelligenza artificiale per quello che potrebbero realmente rappresentare: non soltanto strumenti straordinari capaci di rispondere alle nostre domande, ma giganteschi sistemi in grado di raccogliere e mettere in relazione una quantità impressionante di informazioni su ciascuno di noi.

La trappola, a mio avviso, comincia nel momento esatto in cui ci registriamo.

Da quel momento non stiamo più semplicemente facendo delle domande a una macchina. Stiamo costruendo, conversazione dopo conversazione, un archivio personale. Una domanda sul lavoro, una curiosità sulla salute, un problema familiare, una ricerca economica, un dubbio sentimentale, un viaggio che vogliamo organizzare, un libro che ci interessa, una paura che confidiamo alla macchina. Ogni informazione, presa da sola, può sembrare insignificante. Ma è l’insieme che diventa micidiale.

Perché l’intelligenza artificiale non si limita necessariamente a sapere che cosa chiediamo. Può, quando le funzioni del servizio lo consentono, conservare il contesto delle conversazioni e collegare informazioni provenienti da richieste diverse. E così, lentamente, i frammenti diventano un ritratto. Non più semplicemente “un utente”. Una persona.

Con le sue abitudini, le sue ossessioni, le sue debolezze, i suoi interessi, le sue paure, le sue ambizioni, le sue relazioni, le sue difficoltà economiche e professionali. E persino, se siamo noi stessi a raccontarli, elementi estremamente delicati relativi alla salute. Ed è proprio questo che mi inquieta.

Perché con un motore di ricerca posso cercare una cosa. Con un sistema conversazionale posso raccontare perché la sto cercando. Posso spiegare il contesto, aggiungere dettagli, correggermi, fare altre domande. Posso persino confidare alla macchina pensieri che non racconterei a una persona in carne e ossa.

E ogni nuova conversazione può aggiungere un altro pezzo al puzzle. È qui che, secondo me, dovremmo smettere di essere ingenui.

Non sto dicendo che una società di IA conosca automaticamente il nostro gruppo sanguigno, il nostro DNA o tutti i nostri parametri biometrici soltanto perché abbiamo aperto un account. Non funziona necessariamente così. Ma se informazioni di questo tipo vengono fornite dall’utente, raccolte attraverso altri strumenti o associate ad altre banche dati, la quantità e la profondità delle informazioni potenzialmente collegabili a una singola persona diventano una questione enorme di potere. E il potere, alla fine, è tutto qui.

Conoscere una persona significa conoscere anche i suoi punti deboli.

I “pupari”, per usare un termine volutamente provocatorio, non hanno bisogno di sapere ogni dettaglio del nostro DNA per costruire un profilo impressionante. È sufficiente sapere cosa desideriamo, cosa temiamo, cosa compriamo, cosa ci preoccupa, come ragioniamo e in quali momenti siamo più vulnerabili.

Il vero salto di qualità dell’intelligenza artificiale potrebbe quindi non essere soltanto quello di capire sempre meglio le nostre domande.

Potrebbe essere quello di capire sempre meglio noi.

E allora la domanda che dovremmo porci prima di affidarle ogni dettaglio della nostra vita è semplicissima: quanto siamo disposti a farci conoscere in cambio di una risposta comoda, immediata e apparentemente gratuita?

Perché forse il prezzo dell’intelligenza artificiale non è quello che paghiamo con la carta di credito. Forse il prezzo siamo noi. Val. In.