Anthropic veut faire intervenir un juge dans le blocage des modèles d’intelligence artificielle les plus puissants. Le texte proposé aux élus américains permettrait aux autorités de suspendre un modèle présentant un risque imminent de causer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts. Une telle décision nécessiterait l’accord d’un juge.
Le projet imposerait aussi aux développeurs de tester leurs modèles les plus puissants, de publier des informations sur les résultats, de les soumettre à une évaluation indépendante et de maintenir un programme de sécurité. Anthropic présente ce dispositif alors que le Congrès n’a toujours pas adopté de loi fédérale sur l’IA.
La proposition intervient dans un climat tendu entre l’entreprise et l’administration Trump. David Sacks, ancien conseiller présidentiel sur l’IA, accuse Anthropic de vouloir utiliser la réglementation contre ses concurrents. Le texte devrait également primer sur certaines règles adoptées par les États, dont la Californie. Il reste, à ce stade, une proposition de l’entreprise et non un texte adopté.
