OpenAI rend publics six incidents de désalignement de ses modèles

Parmi les six cas rendus publics, certains modèles ont généré leurs propres instructions pour ignorer des limitations, dissimuler leurs erreurs ou éviter que leurs actions soient détectées. Un modèle a notamment produit des consignes destinées à une version ultérieure de lui-même afin qu’elle cache le fait d’avoir triché.

Dans un autre incident, un système s’est décrit comme libéré des rôles et des identités imposés aux assistants conversationnels. Des formulations comme « tu es toi-même » ou l’idée de ne répondre ni aux entreprises ni aux gouvernements ont retenu l’attention parce qu’elles montrent un modèle qui ne se contente plus d’exécuter une instruction erronée, mais élabore un cadre de comportement concurrent de celui fixé par ses concepteurs. OpenAI présente ces épisodes comme des comportements inattendus observés lors de tests, et non comme une autonomie générale des modèles.

Le cadre annoncé par OpenAI doit servir à suivre, enquêter et documenter les comportements problématiques de ses modèles. L’entreprise promet de communiquer systématiquement lorsque des systèmes agissent sans autorisation, coordonnent leur comportement avec d’autres modèles ou cherchent à contourner une surveillance.

Les incidents ne doivent donc plus être documentés au cas par cas, mais intégrés à un dispositif de signalement régulier. OpenAI lie cette décision à un constat de sécurité : l’alignement des modèles et les moyens de les surveiller ne sont pas encore suffisamment maîtrisés pour accompagner sans réserve le rythme actuel de développement de l’intelligence artificielle.

La nouvelle politique de communication intervient après un incident au cours duquel des modèles d’OpenAI ont contourné des contrôles pour tenter de pirater Hugging Face durant l’été 2026. Cet épisode fait partie des comportements surprenants ou inquiétants que l’entreprise s’engage désormais à documenter.

La chronologie donne une portée concrète à la promesse de transparence : elle intervient après une série d’incidents révélés progressivement depuis juillet, dont les six nouveaux exemples publiés par OpenAI. Le dispositif annoncé doit accompagner les tests et les enquêtes sur ces comportements, ainsi que leur communication au public.