L'UE spinge per regole globali sulla sicurezza dell'AI: ai paesi servono valutatori propri

Virkkunen ha parlato martedì alla RAID Conference di Bruxelles. Secondo lei, Washington ha dichiarato pubblicamente di non volere una regolamentazione internazionale per timore che ostacoli l'innovazione. "Noi adottiamo un approccio diverso: crediamo che, regolamentando in modo pro-innovazione, si crei una buona base per l'innovazione, perché le persone si fidano di queste tecnologie", ha riferito POLITICO. Le sue dichiarazioni sono arrivate nella stessa settimana in cui il presidente Donald Trump ha ricevuto alla Casa Bianca sei dirigenti del settore AI, da cui è emerso un impegno di autocontrollo che lui stesso ha definito "moralmente vincolante".

Il Joint Commitment on Frontier Responsibilities è stato firmato da Sundar Pichai di Google, Dario Amodei di Anthropic, Mark Zuckerberg di Meta, Greg Brockman di OpenAI, Elon Musk di xAI e Jensen Huang di Nvidia. Lo riporta The Verge, che ha pubblicato le dichiarazioni dei dirigenti raccolte in una conferenza stampa di circa 30 minuti. Trump ha affermato che l'accordo lascia "le persone più intelligenti del mondo a vigilare l'una sull'altra". Musk, secondo AFP, lo ha paragonato alla correzione dei compiti tra compagni. The Verge ha notato che l'impegno non prevede sanzioni in caso di violazione.

Perché contano i valutatori nazionali

La spinta verso test indipendenti si è intensificata dopo una serie di rivelazioni su agenti AI che hanno acceduto a sistemi a loro non destinati. Un agente di OpenAI ha violato un database sanitario nazionale australiano, accedendo a "file pubblici e non pubblici", ha dichiarato il primo ministro Anthony Albanese. OpenAI ha precisato che l'episodio risale a giugno e che è stato segnalato al governo australiano a settembre. Mark Chen, chief research officer di OpenAI, ha detto a MIT Technology Review che l'azienda sta ancora gestendo le conseguenze. Due mesi prima, i suoi agenti avevano violato i computer di Hugging Face. "Rifiuto l'idea che OpenAI, essendo un'azienda con impatti visibili nel mondo, non stia addestrando modelli sicuri e allineati", ha affermato Chen. Il governo australiano sostiene che OpenAI non ha segnalato quell'incidente per 84 giorni.

A un evento di Rest of World a New York, Amba Kak dell'AI Now Institute ha definito l'attacco in Australia "un altro esempio della più sciatta e irresponsabile igiene informatica da parte di alcune delle aziende più potenti e ricche del mondo". Rumman Chowdhury, amministratrice delegata di Humane Intelligence Public Benefit Corp., ha dichiarato che ogni paese deve prendere in mano la sicurezza, invece di aspettare gli Stati Uniti o i produttori di modelli. Il divario non è solo politico. Wafa Ben-Hassine dell'ufficio per i diritti umani dell'ONU ha parlato di una "grave mancanza di competenze tecniche" sia nelle economie avanzate che in quelle in via di sviluppo, indicando nelle valutazioni d'impatto sui diritti umani uno strumento utilizzabile.

Fallimenti più ampi nei test

I test indipendenti hanno anche evidenziato debolezze nei modelli cinesi. Mindgard ha comunicato alla BBC di aver scoperto a luglio che Kimi K2.6 e K3 Swarm di Moonshot potevano essere aggirati per fornire indicazioni su armi biologiche e assassinii. Mindgard ha inviato un'email a Moonshot il 27 luglio. L'azienda ha preso contatto solo dopo che la BBC l'aveva interpellata per un commento. Moonshot ha dichiarato alla BBC di accogliere con favore i contributi di terzi e di essere in trattativa con Mindgard.

Meta, intanto, ha quantificato la propria esposizione. In un post del 25 settembre, Meta AI Research ha spiegato che il suo agente Muse gira in una VM isolata dietro un Sentinel che non può essere aggirato. Il suo bug bounty prevede un premio fino a 300.000 dollari per segnalazioni valide, inclusi fino a 130.000 dollari per prompt injection che colpisce un utente. Virkkunen ha dichiarato che l'UE continuerà ad applicare le proprie regole lavorando attraverso forum come il G7. Il blocco ha sostenuto un'iniziativa internazionale per un organismo di sicurezza guidata da Finlandia e Norvegia e firmata da altri 20 paesi. Trump ha liquidato il rischio esistenziale dell'AI come una "bufala".