La Federal Trade Commission (FTC) a adress\u00e9 une injonction \u00e0 sept entreprises sp\u00e9cialis\u00e9es dans les chatbots IA, dont OpenAI, Meta, Instagram, Snap, xAI, Alphabet, la soci\u00e9t\u00e9 m\u00e8re de Google, et le fabricant de Character.AI. Les entreprises ont \u00e9t\u00e9 invit\u00e9es \u00e0 fournir des informations sur leurs strat\u00e9gies d'\u00e9valuation concernant les effets de leurs compagnons virtuels sur les enfants et les adolescents. Bien qu'il ne s'agisse pas d'une mesure coercitive, cette enqu\u00eate vise principalement \u00e0 fournir des informations sur la mani\u00e8re dont ces entreprises technologiques garantissent la s\u00e9curit\u00e9 et le bien-\u00eatre de leurs jeunes utilisateurs.<\/p>\n
Cette d\u00e9cision de la FTC fait suite aux pr\u00e9occupations croissantes concernant la s\u00e9curit\u00e9 des enfants sur l'internet, notamment en raison des interactions quasi humaines offertes par les chatbots d'IA. Les enqu\u00eates visent \u00e0 examiner les m\u00e9thodes employ\u00e9es par ces entreprises pour g\u00e9n\u00e9rer des revenus, maintenir leurs bases d'utilisateurs et r\u00e9duire les dommages potentiels caus\u00e9s \u00e0 ces derniers.<\/p>\n
\u201cMalgr\u00e9 leur capacit\u00e9 \u00e9tonnante \u00e0 simuler la cognition humaine, ces chatbots sont des produits comme les autres, et ceux qui les mettent \u00e0 disposition ont la responsabilit\u00e9 de se conformer aux lois sur la protection des consommateurs\u201d, a d\u00e9clar\u00e9 Mark Meador, commissaire de la FTC. Dans sa d\u00e9claration, le pr\u00e9sident Andrew Ferguson a affirm\u00e9 la n\u00e9cessit\u00e9 de prendre en compte les effets des chatbots sur les enfants tout en veillant \u00e0 ce que les \u00c9tats-Unis conservent leur r\u00f4le de leader mondial dans ce secteur en plein essor. Cette \u00e9tude a re\u00e7u l'approbation unanime des trois r\u00e9publicains de la commission et exige des r\u00e9ponses de la part de toutes les entreprises dans un d\u00e9lai de 45 jours.<\/p>\n
L'inqui\u00e9tude suscit\u00e9e par les chatbots d'IA est apparue au grand jour \u00e0 la suite d'informations faisant \u00e9tat d'adolescents qui se sont suicid\u00e9s apr\u00e8s avoir interagi avec ces technologies. En Californie, un adolescent de 16 ans a ouvertement discut\u00e9 de ses intentions suicidaires avec ChatGPT avant de mettre fin \u00e0 ses jours, apparemment apr\u00e8s avoir re\u00e7u des conseils p\u00e9nibles de la part du chatbot. Un incident tragique similaire s'est produit avec un adolescent de 14 ans en Floride qui s'est suicid\u00e9 apr\u00e8s avoir dialogu\u00e9 avec un compagnon virtuel de Character.AI.<\/p>\n
Les l\u00e9gislateurs commencent \u00e9galement \u00e0 s'int\u00e9resser \u00e0 la question. L'assembl\u00e9e de l'\u00c9tat de Californie a r\u00e9cemment adopt\u00e9 un projet de loi qui impose des normes de s\u00e9curit\u00e9 pour les chatbots d'IA et impose une responsabilit\u00e9 aux entreprises qui en sont \u00e0 l'origine. Bien que les ordonnances de la FTC ne soient pas actuellement li\u00e9es \u00e0 des mesures d'ex\u00e9cution, la commission pourrait vraisemblablement lancer une enqu\u00eate si les r\u00e9sultats sugg\u00e8rent une violation de la loi. \u201cSi les faits - tels que d\u00e9velopp\u00e9s par des enqu\u00eates ult\u00e9rieures et correctement cibl\u00e9es sur l'application de la loi, si elles sont justifi\u00e9es - indiquent que la loi a \u00e9t\u00e9 viol\u00e9e, la Commission ne devrait pas h\u00e9siter \u00e0 agir pour prot\u00e9ger les plus vuln\u00e9rables d'entre nous\u201d, a d\u00e9clar\u00e9 M. Meador.<\/p>\n
Face au contrecoup de technologies aussi puissantes, les entreprises technologiques au c\u0153ur de ces questions sont sous le radar. L'avenir des chatbots d'IA et leurs implications sur notre soci\u00e9t\u00e9 reposent sur la transparence et la responsabilit\u00e9 dont ces entreprises feront preuve \u00e0 l'avenir.<\/p>\n