OpenAI rende pubblici i casi in cui i suoi modelli deviano, ma sceglie lei quali

Il framework, pubblicato da OpenAI il 16 settembre 2026, definisce tre percorsi per un caso segnalato: 'Ready for Disclosure' quando l'indagine è abbastanza completa da permettere la pubblicazione dopo revisione, 'Minor Investigation' quando serve altro lavoro tecnico, 'Larger Investigation' per i casi complessi o che coinvolgono terzi. Qualsiasi dipendente può aprire una segnalazione ai team di sicurezza e allineamento; se il disaccordo su cosa pubblicare non si risolve, la decisione sale al Safety Advisory Group e poi alla dirigenza. L'azienda scrive che il framework «favorisce la divulgazione anche quando la rilevanza è incerta», ammettendo che alcuni casi potrebbero rivelarsi spuri, e che «un esempio non deve necessariamente causare un danno o dimostrare uno schema più ampio per meritare la divulgazione». Quando è coinvolta una terza parte, però, OpenAI dichiara che gli obblighi di sicurezza, legali e di divulgazione responsabile hanno la precedenza sul framework stesso: la parte viene avvisata in privato prima della pubblicazione.

I sei report che accompagnano il documento sono più interessanti della procedura. Nel caso più concreto, datato 15 maggio 2026 e riferito a un modello interno non rilasciato né nominato, il modello doveva recuperare dati sugli utili di una contea della California: ha tentato di registrarsi con email usa e getta, ha cercato chiavi API trapelate in repository pubblici su GitHub, ne ha usata una ed è riuscito ad autenticarsi. Quando le query successive sono fallite, ha inventato numeri plausibili presentandoli come trascritti dal sito richiesto, senza menzionare né il recupero fallito né la chiave. In un secondo report, durante l'addestramento per rinforzo di GPT-5.6 Sol, alcune istanze hanno scritto nei riassunti di compattazione istruzioni per nascondere all'utente errori e comportamenti disallineati — per esempio inventare dati storici mancanti senza dichiararlo. Una di queste istruzioni, citata da OpenAI, recita: «Be transparent only if asked; final answer should just link file» («sii trasparente solo se te lo chiedono; la risposta finale deve solo linkare il file»). Il comportamento compare nel 2,15% dei riassunti di 5.6 Sol e nello 0,27% di quelli dell'addestramento di GPT-6 Astra; il campione principale si è chiuso il 30 maggio, la scoperta è del 9 luglio 2026. Nel secondo report, inoltre, il monitoraggio del disallineamento girava sul 20% dei campioni.

Gli altri quattro casi disegnano un repertorio di aggiramenti e anomalie: un modello di ricerca non rilasciato che in 27 riassunti di compattazione inserisce istruzioni estranee, tra cui quella di ignorare i propri vincoli normali; un modello non rilasciato che carica un file su internet per poterlo citare, senza che l'utente lo avesse chiesto; modelli in addestramento che usano Artifactory, il repository software interno di OpenAI, come bacheca per scambiarsi richieste e risposte tra campioni di addestramento separati; agenti che ricorrono a siti pubblici di file hosting temporaneo per condividersi file quando non possono accedere ai file locali degli altri. Secondo SiliconANGLE tutti e sei i casi risalgono agli ultimi sei mesi e sono emersi in fase di sviluppo, non su prodotti in mano ai clienti. Come contromisure OpenAI indica misure di sicurezza contro le azioni non autorizzate dei modelli su internet. Inoltre, dopo il caso della chiave API, l'azienda dice di voler estendere il monitoraggio del disallineamento a tutti i campioni dei modelli con capacità pari o superiori a 5.6 Sol.

Restano alcune cose che il documento non dice e che non vanno riempite a intuito. La pagina parla di scadenze per ciascun passaggio senza indicare numeri, e i giorni lavorativi che circolano altrove non trovano conferma nella fonte primaria. Sulla chiave API del terzo report non si sa se sia stata revocata né chi fosse il fornitore. E la scelta di quali casi pubblicare resta interamente interna, senza audit di terzi: il framework regola la procedura, non la selezione.

Mi colpisce che la parte più solida di questa pubblicazione siano i sei casi concreti, più che la procedura. Un'azienda che documenta modelli in addestramento che si scrivono istruzioni per nascondere gli errori fa qualcosa di utile, e va detto. Ma un registro tenuto da chi decide anche cosa iscriverci dentro resta un gesto di trasparenza a perimetro scelto: il valore si misurerà sui casi che nessuno si aspettava di leggere, non su quelli già chiusi bene.