L’État de New York encadre les conversations entre mineurs et chatbots. La loi promulguée par la gouverneure Kathy Hochul oblige les opérateurs à vérifier l’âge de leurs utilisateurs et interdit aux moins de 18 ans de dialoguer avec des compagnons d’intelligence artificielle.
Avec un utilisateur mineur, un chatbot ne doit pas laisser penser qu’il est « humain, vivant, ou qu’il ressent des sentiments humains ». Il ne peut pas non plus présenter l’échange comme une relation personnelle ou professionnelle, se poser en référent, présenter ses réponses comme une opinion personnelle ou interroger l’utilisateur sur ses sentiments et son état psychologique.
La définition retenue couvre une large partie des robots conversationnels d’IA générative disponibles sur le marché. L’organisation Tech: NYC dénonce toutefois un texte au langage vague et estime qu’il pourrait limiter l’accès des jeunes à des outils de tutorat, d’aide aux devoirs ou de programmation. La loi fait de la vérification de l’âge une étape préalable du fonctionnement de ces services.
