Possiamo scegliere un fornitore. Firmare un contratto. Spostare i dati nel cloud. Integrare un modello di intelligenza artificiale nei processi più importanti dell’impresa. Ma la domanda vera arriva dopo: possiamo ancora andarcene?
È una delle questioni più interessanti che emergono dal position paper Industrializzare l’AI di Giuseppe Di Franco. Il punto di partenza è industriale: l’intelligenza artificiale crea valore quando smette di essere un esperimento isolato ed entra nei processi, nei dati, nelle decisioni e nelle responsabilità dell’organizzazione. Ma proprio allora cambia anche il problema del controllo.
Perché dipendere da una tecnologia non significa soltanto usarla molto. Significa non poterla sostituire senza pagare un prezzo troppo alto. Un cloud localizzato non basta se le chiavi sono controllate altrove. Un modello aperto non elimina la dipendenza se la capacità di calcolo, gli strumenti o le competenze restano nelle mani di altri. E una clausola contrattuale di uscita serve a poco se dati, prompt, embedding, log e configurazioni non sono realmente esportabili.
Sorge l’esigenza di una vera e propria mappa delle dipendenze critiche di un servizio digitale. Dati, modelli, capacità di calcolo, software, identità, chiavi, fornitori, competenze, procedure di recovery. In altre parole: sapere dove risiede davvero il controllo e dove, invece, abbiamo costruito una dipendenza.
La sovranità digitale, allora, smette di essere una parola da convegno. Diventa una domanda operativa: se domani volessi cambiare fornitore, potrei farlo? Se il servizio si interrompesse, saprei ripristinarlo altrove? Se il modello non fosse più disponibile, conserverei dati, competenze e continuità?
Per questo il paper insiste sugli exit test periodici. Non basta che il contratto dica che possiamo uscire. Bisogna provare che possiamo farlo davvero. Verificare se dati e configurazioni sono portabili, se il fornitore è sostituibile, se il servizio può essere riattivato in un altro ambiente senza perdere continuità. È la differenza tra usare una tecnologia e consegnarle una parte della propria autonomia.
Per l’Italia il problema è ancora più concreto. Siamo un Paese fatto di manifattura, settori regolati, infrastrutture critiche, PMI e sistemi legacy molto diversi tra loro. In questo contesto l’AI non può essere semplicemente «appoggiata» sopra ciò che già esiste: deve entrare nei processi senza rendere opachi dati, responsabilità e decisioni.
Ma c’è un secondo livello, ancora più delicato: la sovranità cognitiva.
Significa mantenere il controllo sugli obiettivi e sulle decisioni supportate dall’AI. Stabilire chi può modificare gli obiettivi, quali decisioni richiedono un’approvazione umana, quali informazioni devono accompagnare una raccomandazione, chi può interrompere un’azione. E soprattutto significa conservare persone con competenza, tempo e autorità per intervenire davvero.
Un progetto AI dovrebbe lasciare l’impresa più capace di governare i propri processi, non meno. Le persone devono saper riconoscere i limiti del sistema, gestire le eccezioni ed esercitare un giudizio autonomo.
È un punto decisivo. Un’organizzazione può avere formalmente il controllo e averlo già perso nella pratica. Basta che nessuno sappia più come funziona il processo, che le competenze siano tutte fuori, che il fornitore sia insostituibile o che l’automazione sia diventata troppo comoda per essere messa in discussione.
Industrializzare l’AI, quindi, non significa solo renderla più efficiente. Significa costruire dipendenze che restino governabili.
Perché la libertà tecnologica non si misura da quante soluzioni possiamo adottare. Si misura da quante ne possiamo ancora sostituire senza smettere di funzionare. Viviamo un tempo interessante con il bisogno di sorveglianza.