Anthropic détaille les détournements de Claude pour des opérations de piratage

Un pirate francophone a utilisé Claude pour automatiser une série d’attaques contre des organisations politiques et médiatiques liées à l’extrême droite française, d’après le rapport d’Anthropic. Au moins 42 structures ont été visées et 14 auraient été compromises.

Les données dérobées comprennent des informations sur les adhérents d’un parti politique dont le nom n’a pas été rendu public. Un institut de formation politique et plusieurs médias, dont le magazine Frontières, figurent également parmi les cibles. Claude aurait facilité différentes étapes des opérations, notamment leur préparation technique. Anthropic affirme avoir bloqué l’utilisation de son outil.

Entre janvier et juillet, Anthropic a détecté et neutralisé plusieurs opérations de surveillance menées avec Claude. Elles ciblaient notamment des figures prodémocratie à Hong Kong, des communautés tibétaines et du Falun Gong en Asie, ainsi que des minorités et des opposants iraniens à l’étranger.

Dans un autre cas, un prestataire présenté comme travaillant pour les services de sécurité nationale du Mali a utilisé le modèle pour concevoir le logiciel d’une plateforme capable d’intercepter des appels, des SMS et des listes d’appels. Le compte a été suspendu, mais le système a continué à fonctionner avec l’aide d’autres modèles d’intelligence artificielle. Anthropic accuse également des acteurs liés à la Chine et à l’Iran d’avoir utilisé Claude pour identifier des personnes à partir de leurs comptes sur les réseaux sociaux.

Une cellule située dans le nord du Yémen a utilisé Claude pour tenter de développer des armes téléguidées, selon Anthropic. Trois programmes portaient sur une roquette, un planeur hypersonique et un missile balistique dont la portée visée dépassait 2 000 kilomètres. L’entreprise n’a pas identifié les acteurs concernés, mais certains éléments ont conduit à évoquer les rebelles houthis.

Anthropic indique qu’un tir d’essai d’une roquette guidée a échoué et qu’elle ne dispose d’aucun élément établissant le déploiement d’un dispositif opérationnel. Les comptes concernés ont été suspendus et les activités signalées. Le rapport mentionne aussi des requêtes portant sur le chikungunya, une souche hautement pathogène de grippe aviaire, des virus comprenant la variole et le mpox, ainsi que des venins et d’autres toxines. Anthropic dit avoir bloqué ces usages, tout en précisant que l’intention des scientifiques concernés n’était pas établie.

Après la publication du rapport, Anthropic a maintenu son appel à imposer des exigences de sécurité aux modèles les plus puissants. OpenAI a formulé une demande comparable, estimant que des engagements volontaires ne suffiraient pas à encadrer l’accélération des systèmes d’intelligence artificielle.

Les États-Unis ne disposent pas encore d’une loi fédérale générale encadrant ces modèles. Des élus démocrates et républicains réclament des contrôles renforcés, notamment des tests avant déploiement et des audits indépendants. En Californie, une loi a été adoptée pour définir les règles d’évaluation des produits d’IA par des auditeurs indépendants. Dans l’Union européenne, la Commission rappelle qu’elle dispose depuis août de nouveaux pouvoirs au titre de l’AI Act et demande aux fournisseurs de mieux contrôler leurs modèles avancés.

Anthropic accuse les entreprises chinoises Moonshot et DeepSeek d’avoir utilisé Claude pour répondre aux demandes de leurs propres utilisateurs, puis récupéré les résultats afin d’améliorer leurs modèles. Cette technique, appelée « distillation », consiste à s’appuyer sur les réponses d’un modèle concurrent pour entraîner un autre système.

Dans un cas, Moonshot aurait transmis près de 300 000 requêtes à Anthropic en dix jours grâce à un réseau de 5 380 comptes frauduleux, dont la plupart semblaient localisés à Singapour et au Japon. Certaines requêtes contenaient des informations sensibles. Anthropic affirme ignorer si les utilisateurs avaient été informés du transfert de leurs demandes vers un tiers. La Chine rejette les accusations de déformation des faits et affirme défendre un développement de l’intelligence artificielle « pour le bien ».