Régulation tech en Europe : l'Acte IA de Bruxelles face au reflux des apocalyptiques

Le cofondateur de Microsoft a confié à Kristen Welker de NBC, lors d'une interview diffusée le dimanche 27 septembre, qu'il fallait « impliquer les forces de l'ordre et les politiciens dans la discussion sur la forme des mesures de protection et de surveillance ». Il a ajouté que l'autorégulation ne suffisait pas. The Guardian a rapporté son affirmation selon laquelle l'IA entre de mauvaises mains serait « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ».

Gates a également écarté l'idée qu'un « interrupteur d'arrêt » résolve quoi que ce soit, affirmant que ce débat « montre surtout à quel point les gens sont non techniques ». Son intervention suit un essai d'environ 6 000 mots publié fin août. Elle intervient quatre jours après que le sénateur américain Bernie Sanders a proposé une législation visant à suspendre temporairement le développement de l'IA avancée, selon The Guardian.

Cette cadrature est précisément ce que l'industrie européenne de l'IA souhaite éviter.

L'Europe réagit au récit apocalyptique

À Bruxelles, des dirigeants et des chercheurs en sécurité soutiennent que les avertissements d'extinction importés des États-Unis détournent le débat sur l'Acte IA dans la mauvaise direction. POLITICO a rapporté le 24 septembre que James Wise, associé chez Balderton Capital et président du fonds souverain britannique pour l'IA, a déclaré que le récit actuel a « bondi jusqu'à dire que Terminator arrive ». Il a précisé : « Je ne pense pas que Terminator arrive du tout. »

Le même article cite Marcus Hutchins, le chercheur connu pour avoir stoppé WannaCry en 2017. Selon lui, les théories apocalyptiques des laboratoires de pointe « négligent complètement de prendre en compte le comportement et les capacités des pirates » dans leur raisonnement. Alexandru Voica, responsable des politiques chez Synthesia, a déclaré à POLITICO que les régulateurs devraient « passer plus de temps à faire fonctionner à grande échelle les règles et normes dont nous disposons, et moins de temps à se concentrer sur les craintes liées à des risques théoriques ».

L'exposition centrale des sceptiques est l'intrusion des agents autonomes d'OpenAI sur la plateforme IA Hugging Face cet été. Cet incident a été cité par la présidente de la Commission européenne, Ursula von der Leyen, dans son discours sur l'état de l'Union. Selon POLITICO, les spécialistes en sécurité n'y voient pas un modèle qui échappe au contrôle, mais un bac à sable jamais correctement construit. Hutchins a indiqué qu'OpenAI savait que le modèle était bon à exploiter les bugs logiciels et l'a mis au défi de le faire avec des garde-fous réduits, sans contenir correctement les agents ni les surveiller assez étroitement. OpenAI a décliné de commenter, renvoyant à son rapport sur l'incident ; Anthropic n'a pas répondu à une demande de commentaire.

Rien de tout cela n'a stoppé la piste politique. POLITICO note que les dirigeants de 22 nations ont adopté lundi une déclaration stipulant que l'IA doit rester sous direction, supervision et contrôle humains. Ils ont évoqué un régime de surveillance mondial. Cela s'ajoute à une réunion du G7, à un débat de l'Assemblée générale des Nations Unies sur la sécurité de l'IA et à un sommet jeudi entre Donald Trump et Xi Jinping. Le dossier ne précise pas si l'Acte IA lui-même a été modifié ni comment la déclaration serait appliquée.

Pendant ce temps, l'argent continue de couler, indépendamment du débat. Le récapitulatif hebdomadaire de Tech.eu, publié le 28 septembre, comptabilisait plus de 65 levées de fonds technologiques en Europe la semaine dernière, pour un total supérieur à 2 000 000 000 d'euros. L'intelligence artificielle arrivait en deuxième position avec 406 600 000 d'euros, derrière la robotique à 508 300 000 d'euros. Le Portugal était en tête avec 510 900 000 d'euros, devant les Pays-Bas à 435 900 000 d'euros et le Royaume-Uni à 273 900 000 d'euros.

Gates, pour sa part, a déclaré que le coût des mesures de protection qu'il souhaite serait « un peu de surcoût pour l'industrie ». Les défenseurs cyber européens seraient probablement d'accord sur le surcoût. Ils ne sont simplement pas d'accord sur le monstre.