Meta cède face à la polémique et désactive une fonctionnalité d'IA controversée
Dans un geste rapide et inattendu, Meta, la société mère du géant des réseaux sociaux Facebook, a récemment supprimé l’une de ses toutes dernières fonctionnalités en raison d’une vague de critiques de la part des utilisateurs. Cette fonctionnalité, dont l'abandon a été annoncé en début de semaine, permettait aux utilisateurs de générer des images créées par l'IA simplement en taguant des comptes Instagram publics. Bien que cette avancée technologique visait à inspirer et à stimuler la créativité, la vive polémique qui s'en est suivie a mis en évidence l'absence de consentement des utilisateurs dans ce processus.
Le lancement initial de cette fonctionnalité a déclenché une vague de critiques. Le principe était simple : grâce au nouveau modèle d’IA « Muse Image », les utilisateurs pouvaient générer des images en se référant à n’importe quel compte Instagram public. Si l’on taguait un profil Instagram public dans Meta AI, le système pouvait exploiter le contenu disponible pour générer des images par IA. Innovante sur le plan conceptuel, cette fonctionnalité était, pour beaucoup, la preuve du potentiel croissant de la technologie dans le domaine artistique.
Une violation du consentement ?
Cependant, ce principe a également mis en évidence un problème flagrant : cette fonctionnalité n’exigeait pas le consentement des propriétaires du contenu, c’est-à-dire des comptes Instagram publics concernés. Concrètement, cela signifiait que le contenu de n’importe quel compte Instagram public pouvait être utilisé comme matière première pour les créations de l’intelligence artificielle, et ce, sans que l’autorisation du propriétaire du compte ne soit sollicitée ni obtenue.
Il est important de souligner ici que la question n’est pas de citer ses sources, mais plutôt d’utiliser le contenu d’autrui comme source d’inspiration sans son accord explicite. Ces dernières années, la protection de la vie privée dans le monde numérique est devenue une préoccupation de plus en plus pressante, les géants de la technologie se retrouvant souvent en contradiction avec l’évolution de l’opinion publique. Ce cas n’a pas fait exception.
Dans un geste qui montre peut-être à quel point les entreprises technologiques sont de plus en plus conscientes de leur image publique, Meta a pris la décision de faire marche arrière. Face au tollé général, l'entreprise a décidé de désactiver la fonctionnalité en question.
D'après les mises à jour ultérieures de Meta sur la situation, le lancement de l'outil de génération d'images Muse AI visait à proposer un outil novateur et créatif. Cependant, la vague de critiques qui s'en est rapidement suivie semble avoir mis en lumière, sans le vouloir, un aspect important de l'introduction de toute nouvelle technologie : l'équilibre entre la promotion de l'innovation et le respect des limites personnelles.
Peut-être que cet incident permettra de mieux comprendre l’importance du consentement dans le monde numérique. Il ne fait aucun doute qu’il apporte un éclairage supplémentaire aux débats plus larges sur les responsabilités et les obligations des entreprises technologiques lors du lancement de nouvelles fonctionnalités. Alors que la technologie continue d’évoluer à un rythme sans précédent, il est important que ces avancées ne négligent pas l’aspect fondamental que représente le consentement des utilisateurs.
Pour suivre l'actualité de cette affaire, rendez-vous sur The Verge.
