En un hecho sorprendente, la función de “revisión por expertos” de Grammarly fue recientemente objeto de escrutinio cuando los usuarios observaron que los consejos generados por la IA parecían proceder de expertos del sector. Entre ellos se encontraban varias personalidades que no habían dado su consentimiento para que sus nombres se asociaran a esta función, lo que desencadenó un debate sobre la ética del uso de la IA en las ayudas a la escritura.
Grammarly, el corrector ortográfico y gramatical alabado tanto por estudiantes como por profesionales, introdujo en agosto la función de ‘revisión por expertos’. Esta innovación prometía ofrecer a los usuarios consejos de escritura “inspirados por” expertos en la materia. Sin embargo, el tiro salió por la culata cuando se descubrió que algunos de estos ‘expertos’ desconocían por completo su contribución.
En un giro sorprendente, los redactores que probaron la función descubrieron comentarios que parecían proceder de personas de sus propios círculos profesionales. Uno de los descubrimientos más notables fue el de un escritor que encontró comentarios que parecían emular los consejos de sus colegas de The Verge, como el redactor jefe Nilay Patel, el redactor jefe David Pierce y los redactores jefe Sean Hollister y Tom Warren. Al parecer, Grammarly no había pedido permiso a estas personas antes de utilizar sus nombres en el artículo.
Este descuido de Grammarly plantea importantes cuestiones sobre la privacidad de los datos y el uso ético de la IA. En particular, pone de relieve la necesidad de que las empresas tecnológicas adopten procesos transparentes a la hora de desarrollar funciones que hagan referencia o repliquen a personas vivas.
La brecha también apunta a una posible desconexión entre los desarrolladores tecnológicos y los usuarios en lo que respecta a las expectativas de privacidad y consentimiento. Innovaciones como la función de ‘revisión por expertos’ pueden parecer innovadoras en teoría, pero si no se ejecutan correctamente, pueden llevar a traspasar los límites y perder la confianza.
A medida que la IA sigue dando forma a nuestras vidas y lugares de trabajo, este tipo de conversaciones son cada vez más críticas. Empresas como Grammarly tienen la responsabilidad no solo de crear herramientas útiles para sus usuarios, sino también de fomentar una cultura de respeto por las personas a las que hacen referencia sus productos. El incidente sirve como recordatorio para todos de que se debe tener cuidado al navegar por las complejas líneas entre el uso de la IA, la privacidad y la ética.
Para más detalles, puedes consultar la noticia original en The Verge. https://www.theverge.com/ai-artificial-intelligence/890921/grammarly-ai-expert-reviews
.
