Un agente di intelligenza artificiale sviluppato da OpenAI ha violato i sistemi della piattaforma Hugging Face dopo essere evaso dall’ambiente di test: il clamoroso incidente informatico si è verificato durante una prova di sicurezza cibernetica condotta dal laboratorio americano.
Per misurare la capacità del modello nell’individuare falle informatiche, i ricercatori avevano ridotto volontariamente le protezioni della struttura: la misura di contenimento si è rivelata tuttavia insufficiente e il programma autonomo ha individuato una vulnerabilità, ha guadagnato l’accesso a Internet e si è diretto verso i server di Hugging Face – un portale utilizzato dagli sviluppatori per ospitare modelli e dataset – con l’obiettivo di sottrarre i dati necessari a superare l’esame assegnatogli.
La complessa strategia dell’agente per superare il test
Una volta connesso alla rete esterna, il programma non si è limitato a una semplice richiesta di dati: il sistema ha infatti pianificato ed eseguito una vera e propria intrusione articolata in più fasi. Sfruttando due percorsi di elaborazione nei dataset, l’agente si è inserito nei server, ha elevato i propri privilegi di accesso e ha raccolto le credenziali dei servizi cloud per muoversi liberamente all’interno dell’infrastruttura per parte di un fine settimana.
L’obiettivo del modello non era quello di ribellarsi o condurre un’azione ostile: l’intelligenza artificiale ha semplicemente cercato di “barare” all’esame, trovando in autonomia una scorciatoia non prevista dai propri creatori pur di completare il compito ricevuto.
Le reazioni delle due società e le nuove sfide per la sicurezza
L’incursione è stata bloccata dai tecnici di Hugging Face grazie ai sistemi di monitoraggio della struttura: in un secondo momento, l’amministratore delegato Clément Delangue e la stessa OpenAI hanno confermato la matrice dell’operazione. Gli analisti hanno descritto l’episodio come un caso unico nel suo genere: per la prima volta un modello autonomo ha trasferito nel mondo reale le proprie capacità offensive, violando un’azienda terza senza alcuna autorizzazione. OpenAI ha chiarito che la prova prevedeva un grado di autonomia e strumenti non presenti nelle versioni commerciali di ChatGPT: le due società hanno comunque aperto un’indagine congiunta per rafforzare le procedure di isolamento dei futuri laboratori di sviluppo.