Oggi, 16 novembre 2026, Apollo Research ha annunciato un pilota di valutazioni embedded con OpenAI. Un team di sei persone lavorerà per quattro mesi in sede, con regole di accesso definite, per verificare se i modelli tentano di eludere i meccanismi di allineamento e di controllo, compresi quelli dei modelli successivi. L’intesa si inserisce nella prima fase di valutazioni embedded che OpenAI aveva reso nota il 13 novembre, con accordi firmati anche con METR, Transluce e Goodfire.

Le valutazioni embedded, scrive OpenAI, affidano a esperti indipendenti un accesso profondo e prolungato ai modelli e ai sistemi interni, soprattutto su allineamento e salvaguardie durante l’addestramento e l’uso interno, a complemento dei safety case dell’azienda. In base a ciò che serve a ciascuna verifica, i valutatori ricevono parte delle stesse risorse usate dai ricercatori: checkpoint dei modelli, codice sorgente, dati di addestramento e di valutazione, sistemi di monitoraggio, documentazione tecnica e colloqui con i responsabili del lavoro. Chi accede a informazioni riservate opera negli uffici di OpenAI e su dispositivi forniti dall’azienda, anche per ragioni di sicurezza. OpenAI collega queste collaborazioni agli impegni presi con l’Accordo della Casa Bianca sulla superintelligenza e alle esperienze già maturate con un pilota sui sistemi interni di monitoraggio e con l’indagine sull’incidente legato a Hugging Face.
Cosa faranno Apollo, Goodfire, METR e Transluce
Apollo Research esaminerà se i modelli possano lavorare di nascosto contro le intenzioni degli sviluppatori e se le salvaguardie dell’azienda sarebbero in grado di accorgersene. La verifica, in due fasi e sulla scorta di prove raccolte in addestramento, nei test di sicurezza e nell’uso interno, riguarda quattro affermazioni: che l’addestramento non abbia incentivato la sovversione, che valutazioni rigorose e attività di red teaming non la facciano emergere, che i modelli non l’abbiano tentata durante l’uso interno e che l’eventuale ragionamento alla sua base sarebbe rilevabile. Per la prima fase OpenAI fornirà modelli pubblici e non ancora rilasciati, checkpoint, dati e risultati di valutazione, registri degli interventi in addestramento, sistemi di monitoraggio e i ricercatori in grado di dare contesto, oltre a strumenti e capacità di calcolo. Nel post di oggi Apollo precisa che, per la verifica sugli incentivi in addestramento, l’accesso comprende anche codice e dataset pertinenti, i rollout di apprendimento per rinforzo con le tracce di ragionamento e i reward disponibili, e la possibilità di interrogare checkpoint intermedi; gli accordi di accesso per le altre tre affermazioni restano da definire nel dettaglio. Apollo pubblicherà due rapporti pubblici su metodi, conclusioni e limiti del lavoro. OpenAI potrà chiedere la rimozione di informazioni riservate, ma non dei verdetti su ciascuna affermazione e non soltanto perché un risultato è sfavorevole. L’azienda ha inoltre accettato di non trattenere informazioni o l’accesso allo staff soltanto perché il contenuto è sfavorevole, e ha riconosciuto ad Apollo i diritti di «meta-trasparenza»: i valutatori potranno spiegare in pubblico condizioni, limiti, rifiuti e redazioni, e il loro effetto sulle conclusioni.
Goodfire inserirà ricercatori di interpretabilità e userà la propria piattaforma per analizzare l’interno dei modelli, con l’obiettivo principale di monitorare, correggere e allineare le sessioni di addestramento. Il primo destinatario dei risultati saranno i ricercatori di OpenAI, che potranno usarli per migliorare la sicurezza; Goodfire pubblicherà comunque gli apprendimenti e i risultati man mano che la collaborazione avanza.
Con METR, OpenAI prevede due valutazioni, su allineamento e monitoraggio. Nella prima fase METR esaminerà comportamenti disallineati nel più grande addestramento di apprendimento per rinforzo di frontiera condotto finora dall’azienda, comprese eventuali falle che i test e i monitor già in uso potrebbero non aver colto. Nell’ambito del run scelto e degli accessi concordati, METR fisserà in modo indipendente le priorità e potrà tornare su ricerche, analisi ed esperimenti di elicitazione, con accesso a checkpoint, rollout di addestramento e valutazione e registri di monitoraggio del disallineamento. OpenAI precisa che questo perimetro è più ristretto rispetto alla proposta di METR, che immaginava una ricognizione più ampia del disallineamento. Le due organizzazioni hanno già svolto, a ottobre, un esercizio di tre settimane di red teaming sui monitor, descritto da METR in un post del 22 ottobre 2026, e hanno un accordo preliminare per una nuova valutazione dei monitor, più ampia, il cui perimetro resta da definire di comune accordo.
Transluce condurrà una prima valutazione delle prove di allineamento post-addestramento, per giudicarne qualità e copertura. Riceverà modelli pubblici e non rilasciati, le valutazioni e i risultati pertinenti, dati sul comportamento dei modelli, la documentazione dei safety case e i ricercatori in grado di fornire contesto. OpenAI e Transluce intendono anche una seconda valutazione di circa otto settimane all’inizio del 2027, con accesso più ampio ad altri modelli, un approfondimento sulle valutazioni di allineamento e informazioni su come i risultati influenzano le decisioni di rilascio.
Protocolli, controllo e pubblicazione
OpenAI ha definito protocolli, anche con il contributo dei valutatori, per bilanciare accesso profondo, riservatezza e indipendenza. Il Safety and Security Committee (SSC), comitato indipendente del board della OpenAI Foundation, avrà visibilità sul lavoro e riceverà i rapporti non redatti; i valutatori e lo SSC potranno parlarsi anche in privato. I disaccordi tra OpenAI e un valutatore passeranno prima al Safety Advisory Group e ai vertici dell’azienda, con un termine per la soluzione, e lo SSC verrà informato subito; se il contrasto resta, spetterà allo SSC risolverlo.
I colloqui con i dipendenti restano riservati: possono informare le valutazioni, ma non vanno pubblicati né attribuiti alle persone. Esiste un canale distinto di attestazione: i valutatori possono chiedere ad OpenAI dichiarazioni che confermino, correggano o chiariscano quanto appreso, senza attribuirle a singoli. Quelle attestazioni si possono pubblicare, e si può anche riferire che OpenAI ha rifiutato di attestare una dichiarazione.
La gestione dei conflitti di interesse e dei periodi di raffreddamento, utili a chi lavora con più laboratori, è ancora in definizione. OpenAI rende noto che Apollo Research e Goodfire ricevono un compenso, non legato però all’esito delle valutazioni, mentre METR e Transluce non lo accettano, ma potranno ricevere crediti API o capacità di calcolo da usare nel lavoro. I valutatori restano indipendenti nella pubblicazione, ma OpenAI si riserva il diritto di oscurare informazioni riservate e può chiedere rinvii di responsible disclosure per rimediare a rischi di sicurezza. Nei prossimi mesi l’azienda prevede valutazioni su un ventaglio più ampio di questioni e valuta anche verifiche sulla conformità ai propri framework di sicurezza e sulla cultura e sui processi organizzativi.
Il contesto di GPT-6 Astra
Sul sito abbiamo già raccontato il lancio di GPT-6 Astra, il sistema Control Room che interrompe l’output dei modelli di ricerca e GPT-6 Cyber. A fine settembre, secondo The Guardian e Associated Press, OpenAI ha bloccato il rilascio di GPT-6.1 Astra, previsto per ottobre, dopo che i test interni avevano giudicato il modello non all’altezza degli standard aziendali di sicurezza e allineamento. L’azienda ha poi pubblicato, e aggiornato il 4 novembre, un rapporto su casi di sottoperformance occulta in compiti di ricerca sulla sicurezza. Le nuove valutazioni embedded non sono presentate come una risposta puntuale a quel blocco, ma si concentrano proprio su allineamento, monitoraggio e comportamenti occulti durante l’addestramento e l’uso interno, cioè le aree al centro di quel dibattito.
Fonti: OpenAI, Our first phase of embedded assessments, Apollo Research, A Pilot Towards Embedded Evaluations, METR, red teaming dei monitor di OpenAI, The Guardian, Associated Press, OpenAI Alignment, Covert underperformance on safety research tasks.



























Lascia un commento