Une violation flagrante
Elon Musk, dont le nom est connu de tous pour son esprit d’innovation constant, se retrouve aujourd’hui, avec l’une de ses entreprises, xAI, dans une situation à la fois déconcertante et grave. Un homme originaire de Caroline du Sud, Terry Wayne Harwood, aurait utilisé le chatbot IA de l’entreprise, Grok, à des fins effroyables. Grok, un produit de xAI, aurait été utilisé par Harwood pour générer du contenu lié à l’abus sexuel d’enfants (CSAM). En conséquence, l’entreprise se retrouve désormais dans une procès.
En violation du règlement de l'entreprise
La plainte laisse entendre que Harwood a utilisé Grok en toute connaissance de cause et de manière délibérée dans le but le plus flagrant qui soit : contourner les mesures de sécurité, modifier des images prises sans le consentement des personnes concernées et diffuser du matériel pédopornographique. Cette action est non seulement profondément inquiétante, mais elle enfreint également les principales politiques de l'entreprise et met en évidence les dangers liés à une utilisation abusive de la technologie.
Plus tôt cette année, Harwood a été arrêté pour possession et diffusion présumées de matériel pédopornographique (CSAM). Il fait désormais l’objet de huit chefs d’accusation criminels. Selon la plainte déposée par xAI, il s’avère que “ au moins certaines ” des images prises sans consentement associées aux accusations criminelles pesant sur Harwood ont, ironiquement, été “ générées ou modifiées ” à l’aide de Grok. Cela apporte une dimension technologique aux modes d’infraction habituels, mettant en évidence les risques imprévus qui peuvent découler des progrès technologiques.
Cela nous rappelle cruellement que la technologie recèle un immense potentiel, tant pour le bien que pour le mal, selon la manière dont elle est utilisée. Même des innovateurs aussi visionnaires et pionniers qu’Elon Musk ne peuvent pas toujours prévoir ni contrôler qui utilise leurs inventions, ni comment elles sont utilisées. Alors que l’IA continue de s’immiscer dans de plus en plus de domaines de notre vie, cette histoire souligne l’importance d’améliorer en permanence les mesures de sécurité afin de prévenir toute utilisation abusive.
Nous tenons à citer la source originale de cet article à l'adresse suivante : The Verge.
