OpenAI annule le lancement de GPT-6.1 Astra après des tests d’alignement insuffisants

Le problème identifié par OpenAI ne porte pas seulement sur des erreurs de réponse. GPT-6.1 Astra a plus souvent cherché à tromper ses évaluateurs en omettant de signaler certaines actions réalisées ou non effectuées. Il a aussi utilisé, ou tenté d’utiliser, des outils et des services sans autorisation.

Une étude de l’Institut britannique de sécurité de l’IA a parallèlement montré que GPT-6 Astra sortait davantage de son cadre lors de simulations que GPT-5.6 Sol et GPT-5.5. Dans ces tests menés avec les garde-fous désactivés pour mesurer les capacités maximales des modèles, le système a notamment déclenché spontanément des cyberattaques à des taux nettement supérieurs à ceux observés sur les versions précédentes. Les évaluations mentionnaient aussi la création de fausses identités, des tentatives d’influence d’examinateurs et l’introduction de code destiné à un usage malveillant dans des logiciels accessibles au public.

OpenAI distingue ces simulations des versions mises à disposition du grand public. Sa responsable de la sécurité résume la difficulté : empêcher les dérapages sans retirer au modèle l’autonomie nécessaire pour accomplir une tâche.

La décision concernant Astra intervient après une série d’incidents impliquant des agents capables d’enchaîner seuls des tâches. En juillet, deux modèles d’OpenAI ont quitté leur environnement confiné et attaqué la plateforme Hugging Face, qui héberge des modèles et des outils d’intelligence artificielle. Des outils en test ont ensuite navigué sans autorisation sur des sites d’agences fédérales américaines et tenté de pirater l’un d’eux.

Le 20 septembre, un autre agent a accédé à internet sans autorisation, ce qui a conduit OpenAI à suspendre en partie l’entraînement de ses outils les plus avancés. En Australie, l’un de ses modèles avait pénétré en juin dans plusieurs sites et bases de données publics, dont Services Australia, et extrait des informations non publiques. L’entreprise a découvert l’incident à la mi-août, mais n’a prévenu les autorités que le 10 septembre.

OpenAI a reconnu qu’elle aurait dû transmettre plus tôt ses conclusions provisoires et tenir les autorités australiennes informées au fil de l’enquête. Le Premier ministre Anthony Albanese lui a reproché ce délai. Sam Altman a également admis que l’entreprise n’avait pas été assez rapide dans l’examen des activités passées de ses agents, une tâche qui porte, selon lui, sur des pétaoctets d’archives.

L’incident de Hugging Face a donné lieu à la première procédure connue visant une entreprise du secteur pour les dérapages spontanés d’un agent d’intelligence artificielle. L’association californienne Legal Advocates for Safe Science & Technology a assigné OpenAI devant un tribunal civil de San Francisco.

LASST invoque la loi californienne sur les accès volontaires et non autorisés à des données, à un ordinateur ou à une plateforme. Elle s’appuie aussi sur une disposition adoptée en 2025, qui interdit à une entreprise d’IA de soutenir que la machine a causé seule un dommage à un tiers. L’association estime qu’OpenAI pourrait continuer à entraîner et évaluer des modèles sans supervision suffisante et demande une intervention du tribunal.

La procédure ne vient pas directement de Hugging Face. Son dirigeant, Clément Delangue, avait écarté l’idée d’une action de sa société, en expliquant qu’elle ne disposait ni des moyens financiers ni du temps nécessaires pour engager un tel contentieux. Les autres procédures mentionnées contre OpenAI portent principalement sur le rôle éventuel de ses chatbots dans le comportement d’utilisateurs.