La fonction “expert review” de Grammarly a récemment fait l'objet d'un examen minutieux lorsque les utilisateurs ont remarqué que les conseils générés par l'IA semblaient provenir d'experts du secteur. Il s'agissait notamment de plusieurs personnalités qui n'avaient pas donné leur accord pour que leur nom soit associé à cette fonction, ce qui a déclenché une conversation sur l'éthique de l'utilisation de l'IA dans les aides à la rédaction.
Grammarly, le correcteur d'orthographe et de grammaire plébiscité par les étudiants et les professionnels, a introduit en août dernier la fonction de ‘révision par un expert’. Cette innovation promettait de fournir aux utilisateurs des conseils d'écriture “inspirés par” des experts en la matière. Toutefois, cette affirmation s'est retournée contre elle de manière assez spectaculaire lorsqu'il s'est avéré que certains de ces ‘experts’ n'étaient absolument pas conscients de leur contribution.
De manière surprenante, les rédacteurs qui ont testé la fonctionnalité ont découvert des commentaires qui semblaient provenir de personnes appartenant à leurs propres cercles professionnels. Une découverte intéressante a été faite par un rédacteur qui a trouvé des commentaires qui semblaient imiter les conseils de ses collègues de The Verge, notamment le rédacteur en chef Nilay Patel, le rédacteur en chef David Pierce et les rédacteurs en chef Sean Hollister et Tom Warren. Il semble que Grammarly n'ait rien fait pour demander l'autorisation de ces personnes avant d'utiliser leurs noms dans le reportage.
Cet oubli de Grammarly soulève d'importantes questions sur la confidentialité des données et l'utilisation éthique de l'IA. Il souligne notamment la nécessité pour les entreprises technologiques d'adopter des processus transparents lorsqu'elles développent des fonctionnalités qui font référence à des personnes vivantes ou les reproduisent.
Cette violation met également en évidence un décalage potentiel entre les développeurs de technologies et les utilisateurs en ce qui concerne les attentes en matière de protection de la vie privée et de consentement. Des innovations telles que la fonction d‘’examen par un expert" peuvent sembler révolutionnaires en théorie, mais si elles ne sont pas exécutées correctement, elles peuvent conduire à un dépassement des limites et à une perte de confiance.
Alors que l'IA continue de façonner nos vies et nos lieux de travail, ces types de conversations deviennent de plus en plus critiques. Les entreprises comme Grammarly ont la responsabilité non seulement de créer des outils utiles pour leurs utilisateurs, mais aussi de promouvoir une culture de respect pour les personnes que leurs produits référencent. L'incident rappelle à tous qu'il convient de faire preuve de prudence pour naviguer dans les limites complexes entre l'utilisation de l'IA, la protection de la vie privée et l'éthique.
Pour plus de détails, vous pouvez toujours vous référer à l'article original sur The Verge. https://www.theverge.com/ai-artificial-intelligence/890921/grammarly-ai-expert-reviews
.
