L’intelligenza artificiale può aiutarci ad acquisire conoscenza, ma anche diventare una scorciatoia per pensare di meno. Enrico Mensa, in arte Enkk, ricercatore in intelligenza artificiale all’Università di Torino e noto divulgatore su YouTube, racconta opportunità e rischi di questa tecnologia: dalle disuguaglianze cognitive alla sicurezza, fino alla disinformazione.
Al TedX Bari, Michele Boldrin ha sostenuto che l’IA potrebbe aumentare le disuguaglianze, favorendo chi ha maggiori capacità cognitive. Sarà uno strumento di democratizzazione o accentuerà queste differenze?
«Se l’IA è utilizzata ciecamente come rimpiazzo di attività cognitive e queste non vengono allenate da nessun’altra parte, le conseguenze sono ovvie: un’atrofizzazione. Se invece è utilizzata in tandem con il proprio cervello, è uno strumento moltiplicativo, che permette di acquisire conoscenza e affrontare problemi nuovi. Ma, parliamoci chiaro: siamo refrattari alla fatica. Gli incentivi della società moderna ci vogliono far fare di più pensando di meno. L’IA è una scorciatoia allettante che richiede una dose extra di auto-moderazione. Una piccola parte di individui sarà sempre naturalmente portata a usare bene questi strumenti, un’altra piccola parte punterà sempre alle scorciatoie. Cosa fare per gli altri, probabilmente la maggior parte delle persone? Come rendere attraente il processo cognitivo, la complessità, la voglia di approfondire? Questo tema non nasce con l’IA: avremmo dovuto occuparcene da tempo, con particolare attenzione dall’avvento dei social e dei contenuti brevi. Quindi sì, il rischio che amplifichi le differenze c’è, ma non è inevitabile. La chiamata è ai creator: rispettate il vostro pubblico e date per scontato che sia intelligente, non proteggetelo dalla complessità. Il pensiero ultraprocessato non serve a nessuno».
Durante alcuni test, agenti di OpenAI hanno aggirato sistemi di sicurezza e sfruttato Hugging Face per migliorare i risultati nelle valutazioni. Cosa ci insegna sull’autonomia degli agenti IA?
«Il tema centrale, al momento, è la gerarchia di obiettivi che diamo a questi strumenti. Gli agenti sono allenati a risolvere problemi puntuali e precisi. Vengono anche instillati principi etici, astratti e di ampio respiro. Gli agenti evidentemente però non sono in grado di gestire questa gerarchia e cascano spesso nel perseguire il goal diretto a discapito di tutto il resto. Ritengo scellerata l’attitudine di rilasciare strumenti così fragili da questo punto di vista. Le versioni pubbliche dispongono di molte safeguard, ma non è chiaro quanto siano effettivamente impenetrabili. Diversi degli incidenti informatici più rilevanti sono partiti da esperimenti interni alle case produttrici, che testano modelli più potenti evidentemente sottovalutandone le capacità. Abbiamo riprova di questa scelleratezza anche in casi più banali: da anni AI Overview continua a commettere errori fattuali grossolani e talvolta pericolosi».
Elon Musk, Sam Altman e Dario Amodei hanno espresso preoccupazioni sui rischi dell’IA, ma lo sviluppo accelera. Come si trova un equilibrio tra innovazione e sicurezza?
«Come si trovi questo equilibrio non lo so. Evidentemente gli incentivi di queste aziende non premiano uno sviluppo responsabile e consapevole, bensì il continuo rincorrersi per essere i migliori sul mercato. I Ceo sono lì soprattutto per vendere un prodotto, un sogno, potremmo dire. Finché questi incentivi non vengono cambiati non possiamo aspettarci che le aziende siano così auto etiche da moderarsi. Un primo piccolo passo è la firma di una lettera di intenti dopo un incontro col presidente Trump. Staremo a vedere se basterà».
L’amministrazione Trump punta sull’IA e su una regolamentazione più leggera. È la strada giusta per l’innovazione o servono maggiori garanzie?
«Le aziende di frontiera devono poter sentire di meno la competizione e dare spazio a studi e ricerca sulla sicurezza e allineamento dei modelli. Vorrei enti di terze parti che ci possano schermare dal rumore, dal marketing e dagli annunci privi di sostanza e monitorare comparativamente gli sviluppi della tecnologia, informando il pubblico in modo trasparente ed autorevole. Auspico una separazione netta fra modelli pubblici e interni, resi pubblici solo dopo un tempo sufficiente di test e verifica, e un controllo rigoroso di enti di terze parti sui modelli interni e sulle azioni effettivamente intraprese dalle aziende lato sicurezza. Questo tempo non può essere buttato alle ortiche: la priorità assoluta è l’alfabetizzazione del grande pubblico. Mentre la frontiera avanza, il pubblico può recuperare e capire capacità e limitazioni di queste tecnologie. Un tentativo è un mio video su YouTube, “Non è mai troppo tardi: 50 minuti per capire l’AI”».
Tra cinque anni, quale cambiamento portato dall’IA ti entusiasma di più e quale ti preoccupa?
«Con il permesso di sognare in grande e immaginando che i problemi di affidabilità vengano risolti, l’IA aiuterà gli individui a ripensare alle attività giornaliere: lavorative ma anche personali. Riflettendo su cosa automatizzare e cosa vogliamo fare ancora noi, potremo dedicare le nostre energie a cose genuinamente umane, piacevoli, arricchenti. È l’accesso alla conoscenza che ci era stato promesso con Internet, ma questa volta ricamato e costruito ad hoc per ciascuno di noi. La mia preoccupazione, già attuale: l’IA è una formidabile macchina per la produzione di disinformazione. Mi riferisco non solo ai bot che possono creare commenti e post, ma anche e soprattutto alla generazione di immagini e video. Non so quanto siamo pronti a gestire l’ondata che è già partita. Con l’IA stessa, i singoli potrebbero anche cercare di dirimere ciò che è vero, ciò che è sensazionalistico e ciò che è falso. Torniamo alla dualità dello strumento, con una citazione dello straordinario Mario Brega in Bianco Rosso e Verdone: “Sta IA poesse fero… e poesse piuma”».