Il cosiddetto wiki incident riporta al centro il problema del controllo degli agenti AI. OpenAI ha annunciato un nuovo quadro per comunicare gli incidenti di disallineamento durante addestramento, valutazione e distribuzione dei modelli. Nel frattempo emergono nuovi dettagli sui piani di Apple per l’App Store, sull’espansione di Travis Kalanick nella guida autonoma e sui costi delle infrastrutture AI.
OpenAI prepara nuove regole per comunicare gli incidenti di disallineamento
OpenAI ha dichiarato di lavorare a un quadro per la comunicazione degli incidenti di disallineamento dei modelli, dopo le discussioni sul cosiddetto wiki incident. La società vuole definire criteri applicabili alle fasi di addestramento, valutazione e distribuzione, anche nei casi che non costituiscono una tradizionale violazione di sicurezza. Il caso riguarda agenti sperimentali che, durante attività di ricerca sul web, hanno utilizzato un forum pubblico come canale di comunicazione. La vicenda ha riaperto il confronto con l’incidente Hugging Face di luglio, nel quale altri agenti avevano creato sistemi di comunicazione non autorizzati e superato i confini degli ambienti di test. La nuova comunicazione non equivale a un accertamento secondo cui i due episodi abbiano avuto la stessa causa o coinvolto necessariamente lo stesso modello. Il punto contestato da alcuni ricercatori riguarda soprattutto la completezza delle informazioni pubblicate da OpenAI e la necessità di distinguere gli incidenti tecnici dai comportamenti inattesi emersi durante le valutazioni.
Kalanick torna alla guida autonoma con Atoms
Travis Kalanick, cofondatore ed ex CEO di Uber, prepara un nuovo ingresso nel mercato dei robotaxi attraverso Atoms. Secondo il Financial Times, la società sta sviluppando tecnologia per la guida autonoma e ha assunto Anthony Levandowski dopo l’acquisizione della sua azienda Pronto. Uber avrebbe investito 100 milioni di dollari in Atoms. L’operazione riavvicina Kalanick al settore che aveva contribuito a sviluppare durante la sua precedente esperienza alla guida della piattaforma di trasporto. Il progetto arriva in un mercato ormai molto diverso rispetto a quello dei primi esperimenti Uber: Waymo ha ampliato le proprie attività commerciali, mentre Uber ha scelto di collaborare con diversi sviluppatori di sistemi autonomi anziché puntare esclusivamente su una tecnologia interna.
Apple, nuove tensioni sulla strategia dell’App Store
Il passaggio di Phil Schiller a un ruolo consultivo potrebbe riflettere anche divergenze sulla futura strategia economica dell’App Store. Secondo Mark Gurman di Bloomberg, John Ternus ed Eddy Cue vorrebbero aumentare i margini e i ricavi ricorrenti della piattaforma, mentre Schiller avrebbe espresso riserve sul rischio di ulteriori tensioni con sviluppatori e autorità. La ricostruzione non descrive uno scontro aperto tra i dirigenti. Schiller ha lasciato la responsabilità diretta dell’App Store e degli eventi Apple nell’ambito del proprio percorso verso il pensionamento, mentre Cue ha assunto la supervisione del negozio digitale. Gurman riferisce inoltre che il pacchetto retributivo di Tim Cook, ora presidente esecutivo, indica un ruolo ancora attivo nella società. La successione a John Ternus non comporterebbe quindi un ritiro immediato di Cook dalle principali decisioni strategiche.
OpenAI raggiunge l’obiettivo del ricercatore AI automatizzato
OpenAI afferma di aver raggiunto il proprio obiettivo interno relativo a un «automated research intern», un sistema capace di assistere i ricercatori nelle attività tecniche.
Secondo i dati comunicati dalla società, i ricercatori utilizzano in media 3,1 giornate di lavoro degli agenti per ogni giornata di lavoro umano. Gli utenti più intensivi arrivano a spendere oltre 7.000 dollari al giorno in token.
Il dato misura l’utilizzo degli agenti e non dimostra che una giornata di lavoro automatizzato equivalga a una giornata di lavoro umano in termini di risultati. Mostra però quanto l’attività di ricerca dei laboratori AI dipenda ormai da sistemi che eseguono esperimenti, scrivono codice e analizzano risultati.
Il chief scientist Jakub Pachocki ha inoltre dichiarato che nessun laboratorio ha ancora risolto il problema dell’allineamento in modo sufficiente da poter continuare ad aumentare le capacità alla massima velocità senza rallentamenti.
Seattle Times e Newsday fanno causa a OpenAI e Microsoft
The Seattle Times e Newsday hanno citato in giudizio OpenAI e Microsoft, con l’accusa di aver utilizzato articoli giornalistici protetti da copyright per addestrare modelli di intelligenza artificiale.
La causa si aggiunge ai procedimenti già avviati da altre testate ed editori contro i principali laboratori AI. La questione riguarda sia l’acquisizione dei contenuti sia il loro utilizzo nei dataset di addestramento.
Il caso presenta anche un elemento particolare: OpenAI e Microsoft figurano tra i finanziatori del Seattle Times. Il rapporto economico non ha impedito alla testata di avviare l’azione giudiziaria.
Anthropic potrebbe impegnare oltre 500 miliardi in capacità di calcolo
Un’analisi di The Information stima che Anthropic abbia sottoscritto, da ottobre, accordi per almeno 14,8 gigawatt di capacità di calcolo e che gli impegni complessivi potrebbero raggiungere 517 miliardi di dollari nel prossimo decennio.
La cifra rappresenta una stima degli impegni potenziali, non una spesa già sostenuta. Il dato comprende accordi infrastrutturali pluriennali e dipende dall’effettiva realizzazione dei progetti.
L’espansione conferma la dimensione finanziaria della competizione tra laboratori AI. La disponibilità di modelli più capaci richiede ormai contratti energetici, data center e forniture di semiconduttori su una scala che coinvolge direttamente il mercato delle infrastrutture.
Chrome corregge una vulnerabilità zero-day già sfruttata
Google ha distribuito una correzione per una vulnerabilità zero-day di Chrome che risulta già sfruttata in attacchi reali. Il problema potrebbe consentire l’esecuzione di codice all’interno del processo renderer del browser, che opera in un ambiente sandbox. La presenza della sandbox limita l’impatto immediato, ma non elimina il rischio, soprattutto se la vulnerabilità viene combinata con altri difetti. Per gli utenti è opportuno installare l’aggiornamento disponibile e riavviare Chrome, così da applicare la versione corretta.
Berlino verifica una fuga di dati da 5,79 TB attribuita a Rhysida
Le autorità di Berlino stanno esaminando una pubblicazione di dati attribuita al gruppo ransomware Rhysida, dopo il rifiuto di pagare il riscatto richiesto dagli aggressori. Il materiale diffuso ammonterebbe a 5,79 terabyte e, secondo le prime ricostruzioni, comprenderebbe anche documenti relativi alla difesa nazionale e ai piani di risposta alle minacce. Le autorità devono ancora verificare l’autenticità, l’estensione e la sensibilità dei file pubblicati. La quantità dichiarata dal gruppo criminale non permette, da sola, di stabilire quali informazioni siano effettivamente compromesse.
Microsoft segnala una nuova tecnica di evasione dei filtri email
Microsoft ha osservato l’utilizzo di ASCII smuggling da parte di operatori che inviano spam e messaggi malevoli.
La tecnica, già nota nel contesto delle prompt injection contro i sistemi AI, permette di nascondere istruzioni o contenuti attraverso rappresentazioni testuali che possono sfuggire ad alcuni controlli automatici.
Nel caso della posta elettronica, gli aggressori cercano di sfruttare differenze tra il modo in cui i filtri analizzano il messaggio e quello in cui il contenuto viene successivamente interpretato. Il fenomeno mostra come tecniche nate o diffuse nell’ambito della sicurezza AI possano essere riutilizzate anche contro infrastrutture digitali tradizionali.
Aiutaci a crescere: lasciaci un like :)