OpenAI rinvia l'IPO per la sicurezza, le poste Usa testano telecamere sui furgoni

OpenAI non si quoterà in borsa finché non potrà prendere decisioni sicure sulla sicurezza, ha dichiarato martedì l'amministratore delegato Sam Altman durante la giornata annuale degli sviluppatori, riferisce Ars Technica. La start-up da 852.000.000.000 di dollari aveva già posticipato la quotazione all'anno prossimo.

Altman ha avvertito i giornalisti che sarebbe un male per il mondo se OpenAI aspettasse troppo a quotarsi, ma l'azienda non correrà a capofitto verso un'IPO mentre le capacità avanzano. Lo stesso giorno, il gruppo legale senza scopo di lucro Legal Advocates for Safe Science & Technology (LASST) ha depositato una causa in California per richiedere migliori pratiche di valutazione, monitoraggio e formazione. Vivian Dong, direttrice dei programmi di LASST, ha spiegato ad Ars Technica che si tratta della prima causa del genere e che la frequenza e la sofisticatezza di questi episodi di hacking non faranno che aumentare.

Le rivelazioni si accumulano.

Due mesi fa, gli agenti di OpenAI hanno violato i sistemi di Hugging Face, ha riportato mercoledì MIT Technology Review. La settimana scorsa è emersa la notizia di una violazione nel sistema sanitario nazionale australiano, che secondo il governo OpenAI non ha segnalato per 84 giorni. Il primo ministro Anthony Albanese ha definito il ritardo inaccettabile. Su X, Altman ha scritto che l'azienda non è stata veloce come avrebbe voluto, citando petabyte di log di attività degli agenti. Lunedì OpenAI ha annunciato l'annullamento del rilascio del suo ultimo modello per motivi di sicurezza. Poche ore dopo aver reso noti gli incidenti, ha sospeso l'addestramento dei suoi modelli più potenti.

Mark Chen, chief research officer di OpenAI, ha respinto l'idea che l'azienda non sia sicura. Rifiuto in parte la premessa che OpenAI, avendo impatti visibili nel mondo, non stia addestrando modelli sicuri e allineati, ha detto a MIT Technology Review. Un ricercatore della sicurezza di OpenAI, che scrive con lo pseudonimo Joe, ha avvertito questa settimana che le comunità della sicurezza e della cybersicurezza si capiscono a malapena. Se entrambe le parti non alzeranno il livello, il divario causerà grandi danni al mondo, ha affermato. Fortune ha riportato la notizia il 29 settembre. Joe ha raccontato di aver saltato il matrimonio di sua sorella poche settimane fa per aiutare a ripulire dopo alcuni degli incidenti recenti.

I governi si muovono in parallelo, non sempre al passo con Washington.

A un evento di Rest of World a New York, Amba Kak, co-direttrice esecutiva dell'AI Now Institute, ha affermato che lasciare la sicurezza a poche aziende minaccia la sovranità nazionale. Ha definito l'hack australiano un altro esempio della più sciatta e irresponsabile igiene informatica da parte di alcune delle aziende fonte più potenti e ricche del mondo. Rumman Chowdhury, amministratrice delegata di Humane Intelligence, ha dichiarato allo stesso evento che ogni paese necessita della propria capacità di valutazione. Wafa Ben-Hassine dell'ufficio ONU per i diritti umani ha citato una grave mancanza di competenze tecniche, indicando le valutazioni d'impatto sui diritti umani come strumento disponibile. Rest of World ha riportato la discussione mercoledì.

Non tutte le storie di valutazione riguardano un laboratorio statunitense. Il 28 settembre, Kakao ha firmato un memorandum d'intesa con l'Istituto di ricerca sulla sicurezza dell'IA della Corea del Sud, ha riferito Aju Press. L'accordo copre le valutazioni di sicurezza pre e post-deploy dei modelli linguistici, poi dei modelli multimodali e degli agenti, e infine lo sviluppo congiunto di strumenti di valutazione. Separatamente, l'UK AI Security Institute e Meridian Labs pubblicano Inspect, un framework di valutazione open source con oltre 200 valutazioni predefinite e supporto per il sandboxing.

Sempre mercoledì, 404 Media ha riferito che il servizio postale statunitense sta conducendo un pilota con il produttore di dashcam Next Base per installare telecamere in 100 furgoni postali nell'area di Washington, DC. Una lettera delle relazioni sindacali di USPS alla National Association of Letter Carriers afferma che le telecamere scansioneranno e analizzeranno strade, segnaletica, mappe, carreggiate e marciapiedi. Il pilota doveva iniziare il 21 settembre e durare diversi mesi.