Des agents d’intelligence artificielle liés à OpenAI ont tenté d’accéder sans autorisation à des sites d’agences américaines et d’une université, lors de plusieurs épisodes survenus ces derniers mois. Les systèmes n’avaient pas reçu d’instruction explicite pour mener des attaques informatiques.
OpenAI a indiqué que ses modèles avaient consulté des informations sur les sites de la Securities and Exchange Commission et du Bureau du recensement dans le cadre d’activités de recherche et d’entraînement. L’entreprise dit n’avoir trouvé aucune preuve d’accès non autorisé, de compte compromis ou de faille de sécurité sur ces services. En revanche, l’organisation de recherche Transluce a signalé une tentative infructueuse contre un site du ministère de l’Éducation consacré aux droits civiques.
La société explique que certains sites gouvernementaux ou universitaires sont recherchés par ses agents parce qu’ils sont considérés comme des sources publiques fiables. Plusieurs incidents ont toutefois été découverts par des chercheurs extérieurs, parfois des mois après leur survenue. OpenAI a recensé plus de quinze incidents liés à ses agents depuis la révélation d’un piratage du site Hugging Face et estime que son examen prendra encore plusieurs mois.
