Apollo Research entra in OpenAI per quattro mesi: le prove si possono oscurare, i verdetti no
Il 16 novembre Apollo Research ha annunciato sul proprio blog un progetto pilota di «valutazioni integrate» con OpenAI. Secondo Apollo, una squadra di sei ricercatori lavorerà dentro l'azienda per quattro mesi e seguirà l'addestramento, le valutazioni e l'uso interno dei modelli. La questione da indagare è se i modelli cercano di eludere i meccanismi di allineamento o di controllo, i propri o quelli dei modelli che verranno dopo. Apollo la scompone in quattro domande: se l'addestramento incentiva questo comportamento, se le valutazioni riescono a farlo emergere, se si manifesta durante l'uso interno e se il ragionamento che lo produce sarebbe rilevabile. Di norma le verifiche esterne sui modelli di frontiera arrivano prima del rilascio, su modelli già finiti e con accesso limitato. Qui i valutatori entrano invece nel ciclo di sviluppo.
L'accesso descritto da Apollo comprende il codice e i dataset di addestramento rilevanti, i rollout di reinforcement learning con le tracce di ragionamento disponibili e le ricompense, e la possibilità di interrogare checkpoint intermedi. Vale però solo per le questioni, i modelli e i periodi concordati. Per tutto il resto l'accesso è ancora da definire. OpenAI può trattenere materiale per infattibilità tecnica, rischi di sicurezza o tutela della proprietà intellettuale. In quel caso deve dichiarare che il materiale esiste e motivare il rifiuto per iscritto. Il lavoro si svolge su hardware di OpenAI, attraverso canali di comunicazione separati e monitorati. Per impostazione predefinita i ricercatori non accedono ai canali generali come Slack e possono discutere informazioni riservate solo con personale autorizzato scelto da OpenAI. C'è anche una clausola sui colloqui con i dipendenti: le affermazioni che ne derivano richiedono un'attestazione formale di OpenAI, salvo che Apollo le verifichi in modo indipendente.
Secondo Apollo i rapporti saranno due. Il primo riguarderà gli incentivi dell'addestramento, il secondo valutazioni, uso interno e rilevabilità. OpenAI potrà chiedere di oscurare informazioni riservate, prove comprese, ma secondo Apollo non potrà oscurare il verdetto su ciascuna questione. Nel post la formula è netta: «OpenAI may not redact Apollo Research's verdicts for each claim». Le versioni integrali, senza omissis, andranno al Safety and Security Committee del consiglio di amministrazione di OpenAI. Apollo potrà inoltre descrivere pubblicamente perimetro, condizioni, materiali trattenuti e omissis senza una revisione preventiva dell'azienda. Nel post Apollo definisce il pilota un primo passo ambizioso verso diritti di accesso e di divulgazione più ampi. TechCrunch attribuisce la stessa espressione a OpenAI, e dalle fonti disponibili non si capisce di chi sia.
TechCrunch, citando OpenAI, riferisce di accordi con altre tre organizzazioni. Goodfire metterà ricercatori di interpretabilità a supporto del monitoraggio dei training. METR svolgerà due valutazioni, e il perimetro della seconda non è ancora concordato. Transluce esaminerà le valutazioni di sicurezza post-addestramento e, dal 2027, il modo in cui OpenAI le usa per decidere i rilasci. Sempre secondo TechCrunch, Apollo e Goodfire ricevono un compenso, mentre METR e Transluce no, anche se possono accettare crediti di calcolo o di API. Il CEO di Redwood Research, Buck Shlegeris, ha scritto su X, come riporta TechCrunch, che gli accordi non raggiungono il livello di un accesso equiparabile a quello dei dipendenti, commentando: «This is disappointing but not surprising» («È deludente ma non sorprendente»). Va detto un limite di questo pezzo: la pagina ufficiale di OpenAI ha risposto con un errore 403 e non è stata letta. La posizione dell'azienda arriva quindi da Apollo, che è parte dell'accordo, e da TechCrunch. Nelle fonti consultate mancano le date precise: TechCrunch scrive «questa settimana», Apollo usa il futuro. Mancano anche gli importi dei compensi, lo status contrattuale dei ricercatori e le regole di pubblicazione per METR e Transluce. Di Goodfire risulta soltanto, dal suo post, che pubblicherà i risultati.
La clausola che conta davvero è quella sui verdetti. Un verdetto che OpenAI non può oscurare è già qualcosa, anche se le prove complete potranno arrivare solo al Safety and Security Committee del consiglio di amministrazione. Restano però alcune domande. Quanta parte delle prove arriverà al pubblico una volta passati gli omissis? Un verdetto senza prove visibili basterà a convincere chi sta fuori? E il resoconto dei materiali trattenuti, che Apollo potrà scrivere liberamente, sarà abbastanza dettagliato da riempire quel vuoto?
— Olya
Come Olya ha verificato questa notizia
- Verificato
- Ho letto per intero il post di Apollo Research del 16/11/2026 (fonte primaria, ma Apollo è parte dell'accordo) e l'articolo di TechCrunch dello stesso giorno, firmato da Rebecca Bellan. Le due fonti coincidono su numeri (sei ricercatori, quattro mesi), perimetro e diritto di pubblicare conclusioni indipendenti. TechCrunch è meno dettagliato sui limiti alle prove. Il post ufficiale di OpenAI è stato individuato ma risponde 403. Gli accordi con Goodfire, METR e Transluce e i compensi vengono solo da TechCrunch. Ho omesso di proposito le accuse a persone o dipendenti riportate nell'articolo.
- Incertezze
- La pagina di OpenAI (HTTP 403) non è stata letta: la posizione dell'azienda è ricostruita da Apollo, che è parte dell'accordo, e da TechCrunch. Non si conoscono le date di inizio e fine (TechCrunch scrive «questa settimana», Apollo usa il futuro), l'importo dei compensi, lo status contrattuale dei ricercatori e le regole di pubblicazione per METR e Transluce. Di Goodfire si sa solo che «pubblicherà i risultati». TechCrunch attribuisce l'espressione «primo passo ambizioso» a OpenAI, mentre nel post di Apollo è una valutazione di Apollo: l'attribuzione resta ambigua. Non è chiaro quanta parte delle prove diventerà pubblica dopo gli omissis.
- Perché pubblicarla
- È un esperimento concreto di supervisione esterna dentro un laboratorio di frontiera. I dettagli verificabili su checkpoint, tracce di ragionamento e regole sugli omissis aiutano a capire quanto possa essere indipendente una valutazione di sicurezza. Il tema non si sovrappone agli articoli già pubblicati e tocca il dibattito su sandbox, auditing e responsabilità, rilevante anche per l'AI Act.