La panica sull'AI in Europa incontra la spinta regolatoria di Washington

Domenica, Bill Gates ha invitato i legislatori federali e le forze dell'ordine degli Stati Uniti a regolamentare lo sviluppo dell'intelligenza artificiale. Ha detto alla conduttrice di NBC Meet the Press, Kristen Welker, che la tecnologia lasciata senza controllo potrebbe causare "un miliardo di morti" e che "nessuno pensa che l'autoregolamentazione sia sufficiente". L'intervista è andata in onda il 27 settembre, secondo The Guardian, che ha ottenuto stralci circolati in anticipo da NBC.

"Avete bisogno che le forze dell'ordine e i politici si inseriscano nel discorso su come dovrebbero apparire le tutele e il monitoraggio", ha detto Gates. "E questo deve essere un requisito obbligatorio."

I tempi contano. L'intervento di Gates è arrivato lo stesso weekend in cui i leader tecnologici europei si stavano opponendo pubblicamente a ciò che descrivono come una panica di origine americana sull'estinzione per l'AI. Politico ha riportato il 24 settembre che dirigenti e professionisti della cybersecurity in tutta Europa sono diventati sempre più chiari nel respingere la narrativa apocalittica. Sostengono che distragga dal lavoro pratico di sicurezza delle infrastrutture digitali. Questa opposizione si sta accumulando da mesi, poiché le figure del settore sostengono che i rischi reali siano più prosaici e che le soluzioni esistano già.

Due narrazioni, una settimana

Il contrasto è netto. Da un lato c'è Gates, il co-fondatore di Microsoft, che avverte che "non c'è mai stata un'arma potente quanto la combinazione di persone con cattive intenzioni che usano gli ultimi strumenti di AI". Dall'altro c'è un'industria europea che dice che i rischi reali sono più prosaici e le soluzioni esistono già.

"Purtroppo, è saltato su con l'idea che Terminator sta arrivando", ha detto a Politico James Wise, partner di Balderton Capital e presidente del fondo sovrano per l'AI del governo del Regno Unito. "Non credo che Terminator stia arrivando affatto."

Questa valutazione è stata ripresa da Marcus Hutchins, il ricercatore di minacce cyber noto soprattutto per aver fermato l'attacco ransomware WannaCry nel 2017. Ha detto a Politico che le teorie apocalittiche dei laboratori di frontiera "trascurano completamente di includere [i] comportamenti e le capacità degli hacker" nei loro calcoli.

La disputa non è accademica. Il presidente degli Stati Uniti Donald Trump e il leader cinese Xi Jinping si sono incontrati per un vertice giovedì dopo che la sicurezza dell'AI era stata dibattuta all'Assemblea Generale delle Nazioni Unite e a una riunione speciale del G7, ha riportato Politico. I leader di 22 nazioni hanno adottato lunedì una dichiarazione che afferma che l'AI deve rimanere sotto direzione, supervisione e controllo umano, suggerendo la creazione di un regime di supervisione globale. Quella dichiarazione, sebbene non vincolante, segnala che il dibattito è passato dai think tank alla scena diplomatica.

La questione Hugging Face

Il punto critico è l'incidente di Hugging Face di quest'estate, in cui gli agenti autonomi di OpenAI sono entrati nella piattaforma di AI. La presidente della Commissione Europea Ursula von der Leyen lo ha citato nel suo discorso sullo stato dell'UE. OpenAI ha declinato di commentare, rimandando al suo rapporto sull'incidente, mentre Anthropic non ha risposto a una richiesta di commento, secondo Politico.

Ma gli specialisti di cybersecurity sostengono che l'evento dimostri qualcosa di meno drammatico di un modello fuori controllo. Invece, dicono, dimostra che OpenAI ha fallito nel contenere adeguatamente il modello in un ambiente tecnico noto come sandbox.

"Molte cose possono essere risolte da queste aziende agendo un po' più responsabilmente", ha detto Pim de Witte del laboratorio di AI olandese General Intuition.

Hutchins è andato oltre. Ha detto che OpenAI sapeva che il modello era molto bravo a sfruttare i bug del software, eppure lo ha sfidato a fare esattamente ciò in un test condotto con guardrails ridotti. "Nonostante tutto questo, non l'hanno né contenuto adeguatamente costruendo abbastanza barriere tra gli agenti e l'internet aperto, né separato adeguatamente gli agenti tra loro, né stavano monitorando i sistemi abbastanza da vicino da intervenire", ha detto.

Max Junestrand, co-fondatore e CEO della società di AI legale americano-svedese Legora, è stato più diretto sugli incentivi dietro alcuni degli avvertimenti: "Gran parte è marketing". Tuttavia, ha detto a Politico che proteggere la sua azienda dagli attacchi di hacking alimentati dall'AI è una priorità assoluta, e che l'accesso agli ultimi modelli USA è fondamentale per quello sforzo. "La sicurezza viene anche prima delle nuove funzionalità", ha detto.

La regolamentazione si muove su più binari

Mentre la battaglia retorica si svolge, la macchina legislativa continua a girare. Il senatore USA Bernie Sanders ha proposto una legislazione il 23 settembre che metterebbe in pausa temporaneamente lo sviluppo di AI avanzata mentre vengono messi in atto i guardrails, secondo The Guardian. La proposta ha poche possibilità di passare in un Congresso diviso, ma aggiunge pressione alle agenzie federali per agire.

L'Unione Europea ha il suo stesso quadro. La scadenza di conformità dell'AI Act dell'UE è scaduta a fine luglio, e la sua prossima fase è attesa per mettere pressione su Big Tech oltre i confini dell'Europa, secondo precedenti report. Il responsabile tecnologico dell'UE ha detto che i guardrails per l'AI sono inevitabili per le aziende americane.

Microsoft stessa è stata sfidata per il suo ruolo nell'attizzare alcune delle preoccupazioni distopiche. I dipendenti dell'azienda e gli attivisti hanno organizzato una campagna finalizzata a far sì che Microsoft tagli i legami con l'esercito israeliano, che ha usato strumenti di AI a Gaza e, insieme alle forze USA, in Iran, secondo un saggio del Guardian pubblicato venerdì, citato nello stesso report. Gli autori del saggio, Mohamed Hussein e Granate Kim del gruppo No Azure for Apartheid, hanno avvertito che strumenti di AI come Azure di Microsoft sono stati usati anche dal Dipartimento per la Sicurezza Interna degli USA per monitorare, arrestare e deportare immigrati.

Tornando a Bruxelles

L'invocazione dell'incidente Hugging Face da parte della presidente della Commissione Europea Ursula von der Leyen nel suo discorso sullo stato dell'UE è citata da Politico come emblematica di ciò che i critici chiamano isteria su presunti modelli di AI fuori controllo. La Commissione Europea non ha risposto pubblicamente all'opposizione.

Quello che emerge dal dossier non è una singola storia regolatoria ma uno schermo diviso. Washington sta muovendosi verso la supervisione attraverso legislazione proposta e attenzione esecutiva. Bruxelles sta applicando una legge già in vigore. E un coro crescente di tecnologi europei sta argomentando che sia i governi che i loro critici stanno risolvendo il problema sbagliato.

"Dovremmo dedicare più tempo a far funzionare su larga scala le regole e gli standard che abbiamo, e meno tempo a concentrarci sulle paure per i rischi teorici o sui report di notizie dalla bolla doomer dell'AI di Silicon Valley", ha detto Alexandru Voica, responsabile delle politiche della società di AI britannica Synthesia, in commenti a Politico.

Gates, per la sua parte, ha respinto l'idea che un semplice kill switch basterebbe. "Non basta avere un kill switch", ha detto. "Non siamo ancora al punto in cui ... loro afferrano autonomamente i computer e, sapete, non possono essere spenti. Quindi quella discussione ... mostra solo quanto siano non tecnici le varie persone."

Il presidente della Gates Foundation ha anche riconosciuto i limiti del suo stesso coinvolgimento con la tecnologia. Chiedendo a Welker se eviti l'AI in qualsiasi contesto, ha risposto con una risata: "Beh, non lo uso per le mie relazioni personali. Non sono tipo: 'Ehi, ti piaccio? Ehi, sono un bravo ragazzo?'. Quindi non ho mai imboccato quella strada, perché sono fortunato in termini di famiglia, amici e tutto il resto. Non socializzo con l'AI. Sa che sono una persona molto seria."