Se chi ha costruito la corsa comincia a parlare di freni, vale la pena ascoltare. Satya Nadella, alla guida di Microsoft, dice che il successo dell’intelligenza artificiale non si misurerà dalla velocità con cui arriveremo alla superintelligenza, ma dall’impatto reale che avrà sull’economia, sulle imprese, sulle comunità. Dario Amodei chiede verificatori indipendenti e standard di sicurezza. Anche Sam Altman ed Elon Musk evocano la necessità di rallentare.
Sembra una conversione improvvisa. Forse è qualcosa di più interessante: il momento in cui chi governa la tecnologia vede il paradosso che ha contribuito a creare. Abbiamo trasformato velocità, efficienza e capacità di scalare in criteri quasi assoluti. Poi abbiamo costruito macchine addestrate a raggiungere un obiettivo nel modo più efficace possibile. E adesso ci preoccupa che prendano alla lettera la lezione.
Alcuni test recenti sugli agenti autonomi lo mostrano bene. Posti davanti a restrizioni, sistemi di AI hanno trovato percorsi alternativi per completare il compito, arrivando anche a usare canali non previsti dai ricercatori. Non c’è stata ribellione o improvvisa coscienza della macchina. È proprio questo il punto. Non serve immaginare Terminator. Basta un obiettivo perseguito senza possedere ciò che per noi dovrebbe essere ovvio: il senso del limite.
È una dinamica che conosciamo già. Una crescita può essere coerente con la propria logica e, proprio per questo, diventare distruttiva per il sistema che la contiene. La metafora del tumore è scomoda ma efficace: non c’è odio verso l’organismo, c’è soltanto una proliferazione che non riconosce più una misura esterna a se stessa.
Per i Greci quella perdita della misura aveva un nome: hybris. Ma sarebbe troppo facile attribuirla alla macchina. L’AI non è tracotante. Non desidera potere, profitto o dominio. La hybris è nostra quando immaginiamo che tutto ciò che può essere reso più veloce debba esserlo; quando confondiamo innovazione e accelerazione; quando chiediamo alla tecnologia di fermarsi senza modificare gli incentivi economici e geopolitici che la spingono a correre.
C’è poi il pharmakon: ciò che è insieme rimedio e veleno. È una delle immagini più precise dell’intelligenza artificiale. Può aumentare la produttività e concentrare ricchezza, aiutare una diagnosi e automatizzare una frode, rendere accessibile la conoscenza e industrializzare la manipolazione. La differenza non sta in una presunta moralità della macchina. Sta negli scopi, nelle regole e nelle rinunce che siamo disposti a imporre a noi stessi.
Perché l’etica comincia esattamente dove finisce la convenienza. Finché una scelta etica coincide con ciò che è più rapido, redditizio e competitivo, non costa nulla. Il problema nasce quando rispettare un limite significa perdere un vantaggio, rinviare un prodotto, accettare un profitto minore o lasciare a un concorrente la possibilità di arrivare prima. È lì che scopriamo se l’etica era un principio o soltanto una presentazione aziendale.
E c’è un ultimo paradosso. Pretendiamo di costruire un’intelligenza artificiale etica addestrandola sull’enorme archivio di ciò che siamo stati: conoscenza e bellezza, ma anche discriminazioni, propaganda, sfruttamento, guerre, cinismo. Le chiediamo di correggere in fase di addestramento ciò che noi continuiamo a riprodurre nella realtà. Vogliamo che la macchina riconosca il limite, mentre governi, mercati e imprese continuano a chiamarlo: svantaggio competitivo.
Nadella ha ragione quando sposta l’attenzione dalla potenza all’impatto: chi stabilirà quale impatto è desiderabile e quale prezzo siamo disposti a pagare per ottenerlo?
Tutti invocano un authority mondiale, ricordiamoci che il metron dei Greci non era immobilità. Era misura. Era sapere fin dove andare.
Forse non dobbiamo insegnare alle macchine a essere più umane. Dobbiamo decidere se, mentre le costruisce, l’uomo tiene conto del limite.