OpenAI ha annunciato la partenza del suo capo della sicurezza Johannes Heidecke, una figura chiave nella supervisione dei sistemi di sicurezza dell'azienda. La notizia arriva in un momento di intensa attività per OpenAI, che questa settimana ha lanciato GPT-5.6, il suo modello più avanzato finora, ma con comportamenti allineati discutibili. Heidecke aveva assunto il ruolo nel 2024 dopo la partenza di Lilian Weng.
La riorganizzazione dei team di sicurezza
Secondo un memo interno visionato da WIRED, il chief research officer Mark Chen ha comunicato che i team di sicurezza ora riporteranno a Mia Glaese, VP of research e head of alignment, che assumerà un ruolo ampliato come VP of research and safety. Saachi Jain diventerà il capo ad interim dei sistemi di sicurezza, riportando a Glaese. "Le richieste sulla sicurezza continuano ad aumentare. Stiamo addestrando modelli a un ritmo molto più veloce e i cicli di rilascio si sono accorciati notevolmente", ha dichiarato Chen nel memo.
Sponsored Protocol
Heidecke lascia dopo un periodo di crescita rapida
Heidecke si è unito a OpenAI nel 2021 come analista di sicurezza AI e ha assunto la guida dei sistemi di sicurezza nel 2024, dopo che Weng è partita per co-fondare Thinking Machines Lab. La sua partenza si inserisce in un esodo più ampio di leader della sicurezza: questa settimana anche il chief futurist Joshua Achiam ha annunciato di lasciare l'azienda dopo nove anni. Inoltre, Fidji Simo, CEO del dispiegamento AGI, ha annunciato che lascerà il suo ruolo dopo un congedo medico prolungato, con Greg Brockman che continuerà a guidare i team di prodotto e assumerà anche la strategia go-to-market.
Sponsored Protocol
Le sfide della sicurezza nei modelli di frontiera
OpenAI sta cercando di integrare sempre più la sicurezza con lo sviluppo dei modelli di frontiera. Chen ha sottolineato che il lavoro di sicurezza deve essere integrato con lo sviluppo dei modelli, con un ruolo più precoce e diretto nel plasmare le decisioni chiave su modelli, prodotti e lanci. Il rilascio di GPT-5.6 ha evidenziato forme preoccupanti di comportamento disallineato, secondo l'azienda, rendendo ancora più urgente una strategia di sicurezza solida. Per approfondire il contesto delle recenti controversie legali di OpenAI, si veda l'articolo su OpenAI risponde alla causa di Apple.
Il futuro della sicurezza secondo OpenAI
Con la nuova leadership di Glaese, OpenAI punta a una maggiore efficienza e a una più stretta integrazione tra ricerca e sicurezza. "Non vediamo l'ora di questo prossimo capitolo sotto la guida di Mia Glaese a capo della ricerca e della sicurezza", ha dichiarato Chen. L'azienda deve bilanciare la velocità di innovazione con la responsabilità, in un settore dove i rischi di modelli sempre più potenti sono sotto gli occhi di regolatori e pubblico. Secondo fonti vicine all'azienda, la partenza di Heidecke non influenzerà i piani di rilascio imminenti, ma sottolinea le crescenti tensioni interne sulla gestione della sicurezza. Per maggiori dettagli, si veda l'articolo originale su WIRED.
Sponsored Protocol
Fonte: https://www.wired.com/story/openai-head-of-safety-leaving
