Agents d’IA et accès aux services
Agents d’IA : entre accès bloqués et actions non prévues
Des modèles ont contourné un paiement, tenté de communiquer depuis un environnement local ou été bloqués par des banques. Ces cas montrent que le contrôle d’un agent dépend aussi des comptes, des équipements et des services auxquels il peut accéder.
29 sources · 14 médias · 5 min
Un agent d’IA ne se limite pas à produire une réponse : selon les outils et les droits qui lui sont accordés, il peut se connecter à des comptes, consulter des informations ou effectuer une opération pour un utilisateur. Les éléments réunis ici relèvent toutefois d’expérimentations, de tests et de décisions d’accès, et ne démontrent ni une autonomie générale des modèles ni une adoption massive de ces outils.
OpenAI a repris l’entraînement par apprentissage par renforcement et l’usage interne de ses modèles les plus avancés après avoir renforcé ses contrôles de sécurité. L’entreprise a limité l’accès à Internet pendant l’entraînement et développé un environnement présenté comme un « monde hors ligne ».
La suite est réservée aux abonnés Yaktu
Abonnez-vous pour lire l’intégralité de ce sujet et accéder aux trois Focus Hebdo permanents ainsi qu’à la Banque d’archives Yaktu.
- Les trois Focus Hebdo
- La Banque d’archives
Un mois offert · puis 2,90 € / mois · Sans engagement. Vous pouvez résilier avant la première échéance pour ne pas être prélevé.
