Tra i tanti dubbi sull’intelligenza artificiale vi è uno che balza agli occhi: pensare che la macchina stia imparando a vivere nel nostro mondo. Molto spesso accade il contrario: siamo noi a modificare il mondo perché la macchina possa funzionare. Luciano Floridi lo chiama enveloping. Invece di costruire un robot capace di lavare i piatti come una persona, costruiamo una lavastoviglie e organizziamo piatti, acqua e movimenti in uno spazio progettato per lei. Non rendiamo la macchina umana. Rendiamo l’ambiente più macchina.
È una distinzione che cambia il racconto sull’AI. Floridi, come sempre puntuale, separa difficoltà e complessità. La difficoltà riguarda ciò che richiede abilità umane; la complessità riguarda quante risorse computazionali servono alla macchina. Un sistema può eseguire un compito complicatissimo senza «capirlo». Giocare a scacchi meglio di noi non significa sapere cosa sia una vittoria. Calcolare milioni di possibilità non equivale ad avere un’intenzione. Eppure continuiamo a chiamare intelligente ciò che spesso è soprattutto calcolabile.
Il white paper di Bruce Benson per FTI Consulting trasforma questa intuizione nelle «Curve di Floridi»: per progettare bene un sistema non bisogna chiedersi soltanto cosa può fare l’AI, ma quale parte del problema possiamo spostare dal difficile al meramente complesso. Cosa affidare alla macchina e cosa deve restare nelle mani dell’uomo. Sembra una precauzione tecnica. In realtà è una scelta.
Perché ogni envelope ha un costo. I magazzini robotizzati funzionano bene anche perché il magazzino viene organizzato per i robot. Una navetta autonoma è più plausibile in un aeroporto, ambiente controllato, che su uno scuolabus costretto a gestire neve, strade imprevedibili e assenza di segnale. La macchina non conquista l’ambiente: spesso è l’ambiente che viene disciplinato per renderla efficace.
Ed è qui che la faccenda diventa meno innocente. Se vogliamo automatizzare un processo, la tentazione è eliminare ciò che la macchina gestisce male: eccezioni, ambiguità, tempi umani, casi non standard. Ma proprio lì abita una parte consistente della realtà. Il cittadino che non compila bene un modulo. Il paziente che racconta male un sintomo. Lo studente che ragiona in modo imprevedibile. Per la macchina sono rumore. Per una società sono persone.
Le «Curve di Floridi», lette bene, non invitano a sostituire l’umano. Obbligano a dichiarare dove vogliamo che finisca la competenza umana e dove inizi quella artificiale. È più serio del consueto «mettiamo l’AI e vediamo». Nel caso raccontato da FTI Consulting, un editore scolastico voleva prevedere meglio la domanda dei libri di testo. Titoli, distretti, finanziamenti e anzianità dei testi generavano una quantità di variabili difficile da governare. Qui il machine learning ha senso. Ma prima del modello vengono dati, pulizia, pipeline, verifiche, prototipi, costi, ritorno economico e perfino la possibilità di fermarsi.
Questa è forse la parte più sovversiva del metodo: contempla l’abbandono. Se il prototipo non migliora abbastanza il risultato, o se il beneficio non giustifica il costo, il progetto si ferma. Nel tempo in cui ogni organizzazione vuole poter dire di «avere l’AI», rinunciare può essere la decisione più intelligente. L’innovazione non è aggiungere un algoritmo. È anche sapere quando non serve.
C’è però una domanda che nessuna curva può risolvere da sola: fino a che punto siamo disposti a trasformare l’ambiente per adattarlo alle macchine? Rendere una fabbrica robot-friendly può aumentare produttività e sicurezza. Rendere una pubblica amministrazione, una scuola o un ospedale troppo algorithm-friendly può significare reprimere quello che il dato non ci detta.
L’AI non ha bisogno che il mondo le somigli. Siamo noi che, per comodità, rischiamo di disegnarlo così. Ed è questo il punto da sorvegliare: non quanto le macchine diventeranno simili all’uomo, ma quanto l’uomo accetterà di diventare più semplice per essere leggibile dalle macchine.