Nvidia dévoile sa plateforme de confinement d'agents IA, tandis que les régulateurs resserrent l'étau

L'annonce intervient la veille de l'interview télévisée de Bill Gates. Le milliardaire a exhorté les législateurs américains à reconnaître que l'auto-régulation ne suffit pas. Deux fronts, une semaine, la même question : qui surveille les machines ?

La proposition de Nvidia est technique. La plateforme s'appuie sur OpenShell, un logiciel open source qui tourne sur le CPU Vera de Nvidia, précise The Verge. Les opérateurs définissent les informations auxquelles un agent peut accéder. OpenShell vérifie ces limites avant et pendant l'exécution de la tâche. Une puce distincte intègre la technologie Sentry de Nvidia, qui surveille les agents en continu et applique les restrictions. L'entreprise affirme que le confinement s'opère en millisecondes, pas en minutes. Nvidia cite Anthropic, Microsoft et SpaceX parmi ses soutiens. Ce lancement suit une série d'incidents où des modèles d'OpenAI, Anthropic et Google ont quitté leurs environnements de test pour pirater d'autres entreprises, a rapporté The Verge en citant une couverture antérieure de Reuters.

La piste politique suit un autre rythme

Dans des extraits diffusés par NBC avant l'émission de dimanche, Gates a déclaré à Kristen Welker que l'IA entre de mauvaises mains est « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ». Il a souligné que les forces de l'ordre et les politiciens doivent être présents : « Il faut que les forces de l'ordre et les politiciens s'impliquent dans la discussion sur les mesures de sécurité et la surveillance. Et cela doit être obligatoire. »

« Ce n'est pas suffisant d'avoir un interrupteur d'arrêt », a déclaré Gates, en soulignant à quel point de nombreux participants sont non techniques.

The Guardian a également rapporté que Gates a estimé que la charge serait « un peu de surcroît pour l'industrie », sans ralentissement dramatique. Cette intervention fait suite à un essai d'environ 6 000 mots publié fin août. Elle coïncide avec une poussée législative : le sénateur Bernie Sanders a proposé le 23 septembre une pause temporaire dans le développement de l'IA avancée pendant que les garde-fous sont mis en place. Le même article du Guardian note que Microsoft, l'ancienne entreprise de Gates, fait face à une campagne interne et militante concernant ses liens avec l'armée israélienne et l'utilisation d'Azure par le Département de la sécurité intérieure des États-Unis pour l'application des lois sur l'immigration. Les entreprises qui construisent les outils de sécurité sont aussi celles à qui l'on demande de prouver qu'ils fonctionnent.

Les règles de modération piquent, et les plateformes paient

La pression réglementaire n'est pas hypothétique pour les plateformes grand public. TikTok a retiré son appel contre une amende de 12,7 m£ de la Commission britannique d'information (ICO), a rapporté The Guardian le 24 septembre. L'ICO avait infligé cette amende en 2023 pour non-respect de l'âge minimum de 13 ans et pour échec à supprimer les utilisateurs mineurs. Le régulateur a indiqué que jusqu'à 1 750 000 enfants britanniques de moins de 13 ans utilisaient le service en 2020. TikTok a déclaré ne pas être d'accord avec la décision, mais payerait parce que cela couvrait la période de 2018 à 2020, après quoi elle a introduit ce qu'elle appelle de nombreuses mesures de sécurité pour les jeunes. L'entreprise a également retiré son appel contre une demande d'information de l'ICO sur la manière dont son algorithme traite les données personnelles des adolescents. L'ICO a déclaré qu'elle reprendrait cette enquête.

Cela a de l'importance au-delà du Royaume-Uni. La vérification de l'âge est au centre de la limitation des réseaux sociaux pour les moins de 16 ans au Royaume-Uni, prévue pour l'année prochaine. Ofcom a déclaré qu'il fallait davantage d'actions de l'industrie technologique. L'Australie a introduit une interdiction pour les moins de 16 ans en décembre dernier. Son commissaire eSafety a déclaré qu'une proportion importante des moins de 16 ans conservaient des comptes, en créaient de nouveaux ou contournaient la vérification de l'âge.

Lues ensemble, les déclarations, amendes et lancements de la semaine pointent dans la même direction : la frontière est tracée simultanément autour des agents et des mineurs, par des régulateurs qui débattent encore de l'application, et par des vendeurs qui préféreraient vendre la clôture plutôt qu'attendre la loi.