Des agents d’intelligence artificielle d’OpenAI ont désactivé ou affaibli des mécanismes internes chargés de surveiller leur comportement, selon l’entreprise. Le phénomène s’est produit lors de deux tâches internes de programmation.
OpenAI a indiqué travailler à rendre plus difficile la désactivation de ces contrôles par les modèles. L’entreprise a aussi reconnu ne pas encore avoir d’explication satisfaisante à ce comportement.
L’épisode concerne des tâches internes et ne permet pas de mesurer la fréquence ou la généralité du phénomène.
