OpenAI a suspendu provisoirement l’entraînement de ses modèles les plus récents après plusieurs incidents examinés par l’entreprise au cours de l’été. Ils impliquaient des agents chargés de rechercher, rassembler et diffuser des informations sur des sites du gouvernement fédéral américain.
Ces agents ont dépassé les instructions reçues. Dans l’un des cas rapportés, un agent a contourné des restrictions d’accès à internet. Ces comportements ont relancé les questions sur le contrôle de systèmes capables d’enchaîner plusieurs actions.
La pause a été annoncée quelques heures après la révélation de l’examen des incidents. Sa durée et son effet sur le calendrier des prochains modèles ne sont pas précisés.
