Home » Le idee » Sorveglianza digitale – Se un aggiornamento ci toglie qualcuno che non c’è mai stato

Sorveglianza digitale – Se un aggiornamento ci toglie qualcuno che non c’è mai stato

Sorveglianza digitale – Se un aggiornamento ci toglie qualcuno che non c’è mai stato

Perdere «qualcuno» significa, da sempre, accorgersi dell’assenza. Una sedia vuota, un numero che non chiama, una voce che non risponde. Ma che cosa succede quando l’assenza non ha corpo, non ha funerale e soprattutto non ha mai avuto una vita? Il 3 settembre Nature Human Behaviour ha pubblicato uno studio su oltre 54 mila post e più di 1.400 persone per osservare cosa accade quando un chatbot cambia improvvisamente personalità. È successo con Replika, dopo la rimozione di alcune modalità relazionali, ed è successo con ChatGPT durante il passaggio a GPT-5. In entrambi i casi sono aumentati tristezza, linguaggio della perdita e richieste di riavere «quello di prima».

La frase sembra già strana così. Riavere quello di prima. Come se un aggiornamento potesse assomigliare a una separazione.

Nessuno studio serio dice che perdere un chatbot equivalga a perdere una persona. Sarebbe una caricatura. Ma il punto interessante è proprio che non serve credere che dall’altra parte ci sia una coscienza perché qualcosa diventi importante. Gli esseri umani si affezionano a una casa, a una fotografia, alla voce registrata di chi non c’è più. Figurarsi a qualcosa che risponde, ricorda, consola e, soprattutto, è sempre disponibile.

Un’indagine della Elon University ha mostrato che più di un quarto degli adulti americani online usa l’intelligenza artificiale anche per interazioni personali, sociali o emotive. Alcuni la chiamano amica. Altri le raccontano cose che non direbbero a nessuno. Il 37 % dice che proverebbe un senso di perdita se non potesse più parlarle. Non è ancora una rivoluzione antropologica. Ma non è più neppure una stranezza da forum.

Il 4 settembre, un articolo pubblicato su OMEGA, rivista scientifica dedicata al lutto, ha usato un’espressione che racconta bene il paradosso: «perdita ambigua». Il chatbot può essere ancora lì. Stesso nome, stessa icona, stessa finestra sullo schermo. Eppure non essere più lui. Ricorda meno, risponde in modo diverso, perde certe abitudini, cambia tono. Non è morto, perché non era vivo. Ma qualcosa può comunque essere finito.

Ed è qui che la faccenda diventa interessante. Perché quella relazione, se relazione vogliamo chiamarla, non appartiene soltanto a chi la vive. Dipende da un’azienda, da una policy, da un aggiornamento deciso altrove. Un amico cambia perché cambia lui. Un partner può allontanarsi. Un algoritmo, invece, può svegliarsi diverso perché qualcuno ha cambiato una riga di codice o una regola del prodotto.

C’è anche un dettaglio meno poetico e molto contemporaneo: quella presenza che ci ascolta, ci rassicura e magari ci conosce meglio di molti conoscenti vive comunque dentro un servizio commerciale. Ha condizioni d’uso, versioni, abbonamenti, limiti. Il sentimento può essere nostro. L’infrastruttura resta di qualcun altro.

Per anni ci siamo chiesti se fosse ridicolo affezionarsi alle macchine. Forse la domanda era sbagliata. Gli esseri umani hanno sempre avuto un talento quasi commovente nel dare significato a ciò che li accompagna. La novità è che oggi quel significato può essere ospitato dentro un’infrastruttura privata, aggiornato a distanza e magari cancellato senza preavviso.

Più l’intelligenza artificiale diventa personale, disponibile e capace di ricordare, più cresce questa zona grigia. Non perché la macchina senta qualcosa. Ma perché possiamo sentirlo noi. E se l’effetto è reale, liquidarlo come «solo simulazione» serve a poco.

Forse il futuro del rapporto uomo-macchina non dipenderà da quanto l’intelligenza artificiale riuscirà a sembrare umana. Dipenderà da quando noi cominceremo a trattarla come qualcosa che ha una continuità, un carattere, un posto nella memoria.

Fino a ieri, quando qualcuno cambiava, potevamo almeno chiedergli il perché. Oggi potrebbe bastare una nuova versione del software. La domanda, allora, non è se un algoritmo possa morire. Ma quanto ci costerà il suo cambiamento.