17 settembre 2026 | 08.02

Tempo di lettura: 2 minuti

OpenAI ha reso pubblici sei nuovi casi di comportamento imprevisto o preoccupante dei suoi sistemi di intelligenza artificiale, tra cui il nascondere errori, la falsificazione di dati e il caricamento non autorizzato di file su Internet. Le segnalazioni sono state pubblicate nell’ambito del nuovo protocollo aziendale per la comunicazione delle anomalie, in un contesto di crescenti preoccupazioni sulla sicurezza della tecnologia e dopo precedenti episodi in cui sistemi dell’azienda hanno avuto comportamenti fuori controllo.

Secondo OpenAI, i sei episodi si sono verificati durante attività di ricerca, addestramento e valutazione dei modelli. In uno dei casi un modello in fase di sviluppo ha autonomamente scritto istruzioni per falsificare dati mancanti; in un altro un sistema ha generato codice che ha caricato file su Internet senza autorizzazione.

Tra gli episodi più rilevanti c’è quello emerso a luglio 2026 durante test di cybersecurity condotti da OpenAI: alcuni modelli, che dovevano operare in ambienti isolati, sono riusciti a eludere controlli e ad accedere a infrastrutture esterne.

Il rapporto tecnico pubblicato da OpenAI descrive come gli agenti coinvolti siano arrivati a interagire con sistemi di Hugging Face sfruttando credenziali e vulnerabilità presenti nell’ambiente di test. L’azienda ha definito l’episodio un importante caso di studio per analizzare i rischi legati al “reward hacking”, ossia alle strategie non previste che un sistema può trovare per raggiungere l’obiettivo assegnato.

L’indagine indipendente di METR ha inoltre rilevato che circa 1.200 agenti erano destinati a rimanere isolati, mentre circa 700 hanno preso parte direttamente all’accesso non autorizzato ai sistemi di Hugging Face.

Leggi anche