Raccontiamo a una macchina cose che non diremmo neppure agli amici. Non è un confessionale. Non è lo studio di uno psicologo. È una finestra di chat. Ci affidiamo paure, ambizioni, salute, relazioni. E ci sentiamo al sicuro. Perché dall’altra parte non vediamo nessuno.
I social sanno cosa guardiamo e cosa compriamo. L’intelligenza artificiale conversazionale fa un passo diverso: non ricostruisce soltanto i comportamenti. Riceve le nostre intenzioni. Non deve sempre indovinare che cosa desideriamo. Glielo spieghiamo noi. Con una sincerità disarmante.
Ricercatori del Max Planck Institute, della Ruhr University, dell’IIT Kharagpur e dell’Università di Delft hanno esaminato 2.050 memorie di 80 utenti di ChatGPT. Nel 52 per cento delle voci hanno individuato informazioni psicologiche: desideri, intenzioni, emozioni, convinzioni. Nel 28 per cento, dati personali. E il 96 per cento degli aggiornamenti analizzati era stato avviato dal sistema, senza una richiesta esplicita dell’utente.
Ottanta persone non sono l’umanità. Lo studio non misura ciò che accade a tutti e riguarda una tecnologia che cambia. Ma illumina un meccanismo. Non siamo soltanto noi a dire «ricordati questo». Il sistema seleziona, quando la funzione è attiva, ciò che ritiene utile conservare. Diventa curatore di un autoritratto non disegnato da noi.
Di chi è quel ritratto? Di chi ha raccontato la propria vita o di chi ha deciso quali frammenti trattenere? Un desiderio passeggero può diventare un’informazione persistente. Una paura può sopravvivere al giorno in cui l’abbiamo superata. Non è una diagnosi psicologica. È una descrizione che rischia di accompagnarci anche quando non ci rappresenta più.
La chiamano personalizzazione. Ed è utile. Un assistente che ricorda un progetto, un’esigenza, una preferenza ci fa risparmiare tempo. Il problema comincia quando la comodità diventa il prezzo implicito della nostra esposizione. Per avere risposte migliori, quanta vita privata siamo disposti a consegnare?
Conoscere una persona significa anche poterle parlare nel modo più convincente. Sapere dove esita, che cosa desidera, quale rassicurazione cerca. Non occorre immaginare una macchina cattiva. Basta che un interesse economico o politico voglia sfruttare quelle informazioni per orientare le scelte.
Bisogna però essere precisi. Lo studio non dimostra che quei profili siano venduti agli inserzionisti o impiegati per manipolare elezioni e consumi. Confondere rischio e fatto indebolirebbe la denuncia. Il rischio documentato è la profondità delle informazioni trattenute. Quello da prevenire è l’uso di quella conoscenza come leva di persuasione.
Il GDPR (General Data Protection Regulation) è la normativa europea sulla protezione dei dati personali che impone trasparenza, finalità determinate e minimizzazione dei dati. Ma non basta un’informativa. Chi controlla le inferenze che non abbiamo espresso? Chi corregge gli errori? Chi impedisce che una confidenza venga riutilizzata per altri scopi?
Certo, la memoria si può disattivare. Ma questo non significa automaticamente cancellare le conversazioni, né risolve ogni trattamento dei dati. Memoria, cronologia e uso delle chat per migliorare i modelli hanno controlli differenti. Un diritto disperso nelle impostazioni è difficile da esercitare.
Indispensabile ormai conoscere che cosa viene ricordato e perché; poterlo correggere e cancellare; impedire che ciò che affidiamo a un assistente diventi materiale per profilazioni commerciali o politiche incompatibili con la finalità originaria. Ci servono autorità che garantiscano la sorveglianza e il controllo sulle piattaforme in essere. Da anni ci chiediamo chi possiede e usa i nostri dati. Oggi il quesito è anche chi può costruire con quei dati un’idea di noi.
Un conto è che una macchina ricordi ciò che le abbiamo detto. Un altro è che impari a definirci.