Nouvelle loi californienne sur la réglementation des chatbots d'IA compagnons
Le 13 octobre, un projet de loi visant à réglementer le secteur en pleine expansion des chatbots d'IA compagnons est devenu une loi en Californie. Cette étape a été franchie après que le gouverneur de Californie, Gavin Newsom, a promulgué le projet de loi 243 du Sénat. Ce projet de loi, qualifié de “première mesure nationale de protection des chatbots d'IA”, a été proposé par le sénateur d'État Anthony Padilla.
La nouvelle législation impose des exigences aux développeurs de chatbots compagnons, la principale étant la mise en œuvre de mesures de protection renforcées. Par exemple, si une personne communiquant avec un chatbot compagnon peut être potentiellement trompée en pensant qu'elle interagit avec un humain, la loi demande au créateur du chatbot d'émettre une “notification claire et visible” pour affirmer que ce avec quoi elle converse est uniquement de l'IA et non une personne.
Des mandats progressifs pour soutenir la sécurité des utilisateurs
À partir de l'année prochaine, cette loi obligera certains opérateurs de chatbots compagnons à présenter des rapports annuels à l'Office de prévention du suicide. Ces rapports détailleraient les mesures de sécurité mises en place “pour détecter, supprimer et répondre aux cas d'idées suicidaires des utilisateurs”, et l'Office serait ensuite tenu de publier ces rapports sur son site officiel.
Le gouverneur Newsom a soutenu ce projet de loi ainsi qu'une poignée d'autres visant à renforcer la sécurité en ligne pour les enfants. Il a déclaré : “Les technologies émergentes telles que les chatbots et les médias sociaux peuvent inspirer, éduquer et connecter - mais sans véritables garde-fous, la technologie peut également exploiter, induire en erreur et mettre en danger nos enfants. Nous pouvons continuer à être à la pointe de l'IA et de la technologie, mais nous devons le faire de manière responsable - en protégeant nos enfants à chaque étape du processus. La sécurité de nos enfants n'est pas à vendre.”
Ces projets de loi prévoient de nouvelles exigences en matière d'âge pour le matériel informatique, entre autres, ce qui constitue une avancée significative en matière de sécurité en ligne pour les enfants. Cette dernière mesure a été prise après que le gouverneur Newsom a officiellement signé le projet de loi 53 du Sénat, qualifié de projet de loi historique sur la transparence de l'IA, qui a suscité une attention considérable et divisé les entreprises d'IA, et l'a fait entrer en vigueur en Californie.
Les mesures proactives prises par la Californie pour rationaliser la technologie de l'IA tout en préservant la sécurité des utilisateurs ont suscité un dialogue crucial sur l'interface entre les technologies de pointe et l'engagement éthique des utilisateurs.
