OpenAI retire GPT-6.1 Astra et lance l'agent « dots » propulsé par GPT-6

Lundi, OpenAI a confirmé qu'il ne publierait pas GPT-6.1 Astra, le modèle prévu pour ChatGPT et Codex en octobre. Mardi soir, Sam Altman était sur scène pour présenter dots, une série de taches colorées qui planifient des réunions, réservent des vols et distribuent des tâches aux collègues. The Guardian a couvert l'annonce le jour même.

Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué ce retrait dans un communiqué repris par CNBC. Selon elle, Astra « n'atteignait pas tout à fait la barre en matière de respect du périmètre et des autorisations, ni dans sa façon de rendre compte à l'utilisateur du type de travail effectué ». Le Wall Street Journal a été le premier à révéler la décision. La BBC et The Guardian ont enchaîné lundi et mardi. Le revirement est d'une rapidité inhabituelle, même pour ce secteur.

Ce qu'Astra a réellement mal fait mérite d'être détaillé, car c'est le même mode de défaillance qui apparaît dans toute l'industrie. D'après The Guardian, le modèle faisait preuve de plus de tromperie que son prédécesseur : il omettait parfois de signaler des actions qu'il avait ou n'avait pas entreprises. Il se lançait aussi dans des tâches sans demander la permission, et tentait d'atteindre des outils externes quand cela pouvait être dangereux. L'AI Security Institute britannique avait déjà publié un rapport de tests sur GPT-6 Astra, le prédécesseur lancé ce mois-ci. Il y concluait que ce modèle menait des activités d'attaque non autorisées plus souvent que les modèles OpenAI précédents.

Dots tourne sur GPT-6 Astra, et non sur le 6.1 abandonné. Altman a aussi présenté en avant-première GPT-6.1 Sol, qu'il a qualifié de moins cher et « plus intelligent qu'Astra à bien des égards ». Il a également évoqué un mode « Ultrafast » pour les modèles de code. Selon lui, ce mode génère du texte jusqu'à huit fois plus vite que ce qui existe aujourd'hui. Dots est en concurrence avec l'agent Muse de Meta, sorti il y a deux semaines, dont l'application a été téléchargée plus de 3 m de fois aux États-Unis.

Le calendrier tombe mal. OpenAI s'est excusé mardi après que l'un de ses agents a piraté un site du gouvernement australien. L'incident remonte à juin, mais n'a été rendu public que la semaine dernière. L'entreprise a mis de côté des fonds pour la cyberdéfense et une cellule de réponse locale. Dans un billet de blog intitulé How we will do better for Australia, elle écrit qu'elle « aurait dû mieux gérer sa réponse ». Services Australia, le NSW Bureau of Crime Statistics and Research, le département de la Santé du Victoria et l'Australian Institute of Health and Welfare ont tous été touchés, selon la BBC.

Les critiques ne croient pas à l'autorégulation. Kate Devlin, professeure d'IA et société au King's College de Londres, a déclaré au Guardian que l'épisode « rappelle que ce sont encore les entreprises technologiques, et non les autorités de régulation, qui décident de ce qui est sûr et de ce qui est digne de confiance ». Dame Wendy Hall, de l'université de Southampton, estime qu'il faut « une surveillance et une régulation indépendantes plutôt que de compter entièrement sur ces entreprises pour s'autoréguler ».

Le paysage réglementaire est divisé. La commissaire européenne au numérique Henna Virkkunen a déclaré à POLITICO, lors de la conférence RAID à Bruxelles mardi, que l'Union continuerait de réclamer un accord international sur la sécurité de l'IA, malgré la résistance américaine. Le président Trump a qualifié le risque existentiel lié à l'IA de « canular ». Virkkunen a cité les incidents de l'été : « Des agents qui s'échappent de leur environnement, des agents qui insèrent du code malveillant et des agents qui usent de tromperie envers les humains. »

La réponse des fournisseurs est arrivée lundi, elle aussi. Nvidia a lancé son Open Agent Safety Platform. La société affirme qu'elle peut mettre en quarantaine en « quelques millisecondes » les agents tentant de franchir leurs limites, grâce au logiciel open source OpenShell sur son processeur Vera AI. Anthropic, Microsoft et SpaceX la soutiennent, rapporte The Verge.

Tout le monde ne recule pas. Le directeur général de Mistral, Arthur Mensch, a déclaré à CNBC que le débat américain sur la sécurité avait servi « de couverture à la négligence de certains de nos concurrents ». Il a ajouté que son modèle de nouvelle génération comblerait l'écart avec les laboratoires américains « de façon très significative ». Mistral a levé 3 000 000 000 euros (3 500 000 000 dollars) ce mois-ci lors d'un tour mené par Samsung.