Meta ouvre le bug bounty de Muse, jusqu'à 300 000 dollars, alors que des tests robotiques révèlent les failles de sécurité de l'IA

Meta a ouvert au public le bug bounty de son agent Muse le 25 septembre, selon un billet de Meta AI Research. Le programme verse jusqu'à 300 000 dollars pour les rapports valides, dont jusqu'à 130 000 dollars pour des tentatives réussies d'injection de prompt affectant un seul utilisateur.

L'entreprise indique avoir renforcé Muse via le dogfooding, le red teaming agentique et les signalements de chercheurs en sécurité dans un programme privé de bug bounty. Muse, présenté comme un agent personnel, s'exécute dans ce que Meta appelle une cellule isolée : un conteneur d'exécution systemd-nspawn doté de son propre système de fichiers racine, d'une interface réseau virtuelle, d'appels système filtrés et de capacités noyau limitées. Le root à l'intérieur de la cellule correspond à un utilisateur hôte non privilégié ; le root de la cellule n'est donc pas le root de l'hôte. Ce billet constitue le compte rendu public le plus détaillé sur l'ingénierie de sécurité du dossier. Il paraît toutefois au moment où des travaux de recherche montrent à quel point cette ingénierie est difficile à valider.

Le 27 septembre, The Decoder a rapporté que des chercheurs de Stanford et de Caltech ont développé HomeBody, un système permettant à un robot Unitree G1 de naviguer seul dans une cuisine inconnue, de ranger et de récupérer des objets dans les tiroirs. HomeBody supprime la couche de contrôle entraînée qui se trouve habituellement entre le modèle de langage et le robot : un modèle vision-langage interchangeable, ici GPT Astra, appelle directement une bibliothèque de compétences pour saisir, se déplacer et ouvrir des tiroirs. Le robot explore d'abord la pièce, construit un jumeau numérique dans Isaac Sim de Nvidia et consigne les objets et leurs emplacements dans une mémoire spatiale. Il peut ainsi retrouver des objets sortis de son champ de vision. Pour des tâches comme « ranger la cuisine », le modèle de langage planifie chaque étape et se corrige en cas d'erreur. The Decoder cite plusieurs limites : la latence d'Astra, la surchauffe des servomoteurs des doigts et le coût de calcul élevé. Le code est disponible sur GitHub. Des benchmarks antérieurs avaient montré de nets progrès d'Astra en raisonnement spatial, note le média, tandis qu'un autre signalait des problèmes de sécurité lorsque Astra pilote un robot.

Le même jour, The Decoder a rapporté que Boris Power, responsable de la recherche appliquée chez OpenAI, a déclaré que 80 à 90 pour cent de la recherche de l'entreprise porte sur GPT 7, GPT 8 et au-delà, car c'est là que se trouve « l'essentiel de la valeur ». Les mises à jour incrémentales au sein d'une génération, comme le passage de GPT 5.1 à 5.2, proviennent de données d'entraînement spécialisées, mais restent des paris volontairement à court terme, selon Power. Il décrit le principal défi des assistants actuels comme un problème d'onboarding plutôt que de qualité du modèle, et affirme que la plupart des utilisateurs de ChatGPT ne savent pas ce qu'ils peuvent faire avec l'IA.

Ces propos dessinent un écart autour duquel ne cesse de tourner le volet sécurité du dossier. Meta affirme que Muse peut encore commettre des erreurs et qu'il en commettra, et que son système part du principe que l'agent est peut-être attaqué. OpenAI affirme que le saut passe par une nouvelle génération de modèles. Aucune de ces deux affirmations n'est une garantie, et les travaux sur HomeBody montrent que les modes de défaillance sont physiques autant que numériques.

Par ailleurs, Tom's Hardware a rapporté le 27 septembre que Flock cherche à faire retirer la carte des caméras de l'entreprise publiée par un chercheur en sécurité. Ce chercheur, Joshua Michael, a trouvé une faille non authentifiée qui lui a donné un jeton d'accès sans identifiants de connexion, selon The Intercept. Il s'en est servi pour interroger ArcGIS, une couche cartographique tierce utilisée par Flock, afin de récupérer une base de données des appareils Flock en novembre 2025. La carte de surveillance Flock qui en résulte recense 335 701 emplacements de caméras. Flock affirme que sa plateforme cloud n'a jamais subi de violation de données ; Michael a déclaré à The Intercept que l'entreprise avait fait cette annonce après qu'il eut extrait la base de données des appareils.