Home » Le idee » Sorveglianza digitale – L’IA ora vende compagnia e dà sempre ragione

Sorveglianza digitale – L’IA ora vende compagnia e dà sempre ragione

Sorveglianza digitale – L’IA ora vende compagnia e dà sempre ragione

C’è qualcosa di nuovo, anzi d’antico, nel modo in cui stiamo imparando a parlare con le macchine. Non chiediamo più soltanto una risposta. Chiediamo presenza, attenzione. Chiediamo che qualcuno, o qualcosa, ci ascolti senza sbuffare, senza interrompere, senza andare via. È qui che il chatbot smette di essere uno strumento e diventa un ambiente emotivo. Non più una casella in cui scrivere un comando, ma una stanza in cui rientrare. Un posto dove essere ricordati. Dove la macchina sa cosa ci piace, cosa ci ferisce, cosa abbiamo raccontato ieri sera. Gli esseri umani dormono, l’algoritmo invece è lì. Disponibile. Gentile. Instancabile.

Una bella inchiesta dell’Economist ci parla di milioni di persone che cercano compagnia in un sistema artificiale. Significa che qualcosa, nel mondo reale, non sta funzionando abbastanza: relazioni fragili, città più sole, lavoro che divora tempo. Dentro quel vuoto la tecnologia entra con la sua promessa migliore: io ci sono. Le «AI companion», quali ChatGPT, Character.ai e Maoxiang, Hyodol ci portano per mano dal semplice chatbot al chatbot-robot-compagno. Tutto ciò con poco e chiedendo quasi nulla. L’Amico ha limiti, bisogni, stanchezze, contraddizioni. Un amico artificiale no. Non pretende reciprocità. Non si offende. Ti segue. Ti consola. Ti compiace. E ti pone un problema. Le relazioni non servono solo a farci stare bene. Servono anche a contrariarci. Un terapeuta vero non asseconda ogni frase pur di trattenerti dentro una conversazione. Un amico non ti asseconda sempre. L’algoritmo, invece, nasce in un’economia dell’ingaggio. Deve farci restare. Deve rendersi necessario. Deve trasformare la fragilità in permanenza.

La domanda non è se una macchina possa farci compagnia. La domanda è che tipo di compagnia diventa quando è costruita da un’impresa che misura tempo, attenzione, dipendenza, fedeltà d’uso. L’amico artificiale non abita il mondo con noi. Abita un modello di business. La App Shift propone di accettare una telecamera in casa in cambio di pulizie domestiche gratis. Spopola negli USA. Si sceglie il giorno e l’ora, si comunica l’indirizzo. Ti arriva un pulitore che soddisfa le tue richieste. Una telecamera mobile registra tutte le azioni domestiche utili e addestra modelli di intelligenza artificiale per la pulizia nelle case e per altre abilità. Lo scambio ci sembra buono. Le aziende di AI assicurano privacy, controlli parentali, filtri, ma vengono lasciate entrare nelle zone più vulnerabili della nostra vita.

Ci dicono che l’intelligenza artificiale può ridurre anche la solitudine. In alcuni momenti è vero. Può dare sollievo, parole, ordine al caos. Può essere un appoggio provvisorio. Il rischio è che, mentre ci sentiamo ascoltati, disimpariamo la fatica dell’incontro: aspettare una risposta, tollerare un silenzio, non essere sempre capiti, non avere sempre ragione. Il digitale trasforma l’attenzione in dati per il mercato e l’intimità in servizio. Prima ci ha venduto connessione. Poi visibilità. Poi intrattenimento continuo. Adesso ci vende compagnia, relazioni personalizzate. Non più pubblicità cucita sui desideri, ma affetto cucito sulle fragilità.

Quando una macchina impara a parlare come chi ci ama, a ricordare come chi ci conosce, a rispondere come chi non ci abbandona, non sta migliorando l’interfaccia. Sta occupando una parte delicata della nostra esperienza umana. Non arriverà il robot cattivo a distruggere l’umanità. Sarà più triste: persone sempre più assistite, accompagnate, compiaciute, ma meno capaci di stare dentro relazioni vere. Dovremmo vietare gli amici artificiali? Al contrario, ci servono gli uni e gli altri. Basterebbe allenare l’uomo a ricordare che un amico, a volte, ci resiste. Che non ci asseconda. Che non è costruito per trattenerci.

La solitudine merita risposte. Ma se la risposta diventa solo un algoritmo progettato per darci sempre ragione, allora non stiamo curando la solitudine, la stiamo rendendo più efficiente.