Meta apre il bug bounty di Muse: fino a 300.000 dollari. I test sui robot mostrano i limiti della sicurezza AI

Meta ha reso pubblico il bug bounty dell'agente Muse il 25 settembre, come annunciato su Meta AI Research. Il compenso massimo per le segnalazioni valide è di 300.000 dollari. Per i tentativi riusciti di prompt injection che interessano un solo utente, la cifra è di 130.000 dollari.

L'azienda ha rafforzato Muse tramite dogfooding, red teaming agentico e le vulnerabilità trovate dai ricercatori di sicurezza in un programma privato. Muse, un agente personale, gira in una cella isolata: un container runtime systemd-nspawn con filesystem root dedicato, interfaccia di rete virtuale, chiamate di sistema filtrate e capacità del kernel limitate. L'utente root nella cella corrisponde a un utente host non privilegiato, quindi non è il root dell'host. Il post di Meta è il resoconto pubblico più dettagliato sull'ingegneria della sicurezza nel dossier, ma arriva insieme a ricerche che mostrano quanto sia difficile validare questo lavoro.

Il 27 settembre The Decoder ha riferito che ricercatori di Stanford e Caltech hanno sviluppato HomeBody. Il sistema permette a un robot Unitree G1 di navigare autonomamente in una cucina sconosciuta, riordinare e prelevare oggetti dai cassetti. HomeBody elimina il livello di controllo addestrato tra il modello linguistico e il robot. Un modello visione-linguaggio intercambiabile, in questo caso GPT Astra, accede direttamente a una libreria di abilità per afferrare, navigare e aprire cassetti. Il robot esplora la stanza, costruisce un gemello digitale in Isaac Sim di Nvidia e registra oggetti e posizioni nella memoria spaziale. Questo gli permette di ritrovare gli oggetti anche quando escono dal campo visivo. Per compiti come "riordinare la cucina", il modello linguistico pianifica ogni passo e si auto-corregge in caso di errori. The Decoder ha elencato limiti come la latenza di Astra, il surriscaldamento dei servomotori delle dita e i costi di calcolo elevati. Il codice è su GitHub. La testata ha notato che benchmark precedenti avevano evidenziato un notevole miglioramento nel ragionamento spaziale di Astra, mentre un altro studio aveva segnalato problemi di sicurezza quando Astra controlla un robot.

Lo stesso giorno, The Decoder ha riportato le dichiarazioni di Boris Power, Head of Applied Research di OpenAI. Secondo Power, l'80-90 per cento della ricerca dell'azienda è dedicata a GPT 7, GPT 8 e oltre, perché è lì che si genera "la maggior parte del valore". Gli aggiornamenti incrementali all'interno di una generazione, come il passaggio da GPT 5.1 a 5.2, derivano da dati di addestramento specializzati ma sono scommesse volutamente a breve termine. Power ha descritto la sfida principale degli assistenti attuali come un problema di onboarding più che di qualità del modello, affermando che la maggior parte degli utenti di ChatGPT non sa cosa può fare con l'AI.

Queste dichiarazioni delineano un divario su cui il materiale sulla sicurezza del dossier continua a tornare. Meta ammette che Muse può ancora commettere errori e che il suo sistema parte dal presupposto che l'agente possa essere sotto attacco. OpenAI sostiene che il salto di qualità arriva con una nuova generazione di modelli. Nessuna delle due affermazioni è una garanzia. Il lavoro su HomeBody mostra inoltre che i modi in cui il sistema può fallire sono fisici oltre che digitali.

Altrove, Tom's Hardware ha riferito il 27 settembre che Flock sta cercando di far rimuovere la mappa delle sue telecamere creata da un ricercatore di sicurezza. Il ricercatore, Joshua Michael, ha scoperto una vulnerabilità non autenticata che gli ha consentito di ottenere un token di accesso senza credenziali di login, secondo The Intercept. Ha utilizzato questo token per interrogare ArcGIS, un livello di mappatura di terze parti utilizzato da Flock, recuperando un database di dispositivi Flock nel novembre 2025. La mappa risultante, Flock Surveillance Map, elenca 335.701 posizioni di telecamere. Flock afferma che la sua piattaforma cloud non ha mai subito una violazione dei dati. Michael ha dichiarato a The Intercept che l'azienda ha rilasciato quell'annuncio solo dopo che lui aveva estratto il database dei dispositivi.