Con el fin de mantener la transparencia y cumplir con la normativa europea sobre IA, Anthropic, la empresa responsable de la IA denominada Claude, ha anunciado cambios importantes en el texto generado por el robot. Para lograrlo, la empresa tiene previsto incorporar marcas de agua invisibles en el texto generado por Claude. Esto supone un hito significativo, ya que permite un seguimiento y una verificación más fiables del contenido generado por la IA.
El enfoque de la empresa se basa en una tecnología ya existente, una tecnología de marca de agua de código abierto conocida como el método “SynthID-Text”. El enfoque SynthID-Text fue desarrollado inicialmente por Google DeepMind y funciona creando patrones identificables a partir de probabilidades en la redacción. Se espera que esta metodología de marcas de agua aumente la trazabilidad y la responsabilidad del trabajo de Claude.
Además, Anthropic está incorporando la compatibilidad con la C2PA en las imágenes procesadas por Claude. Ambas medidas se han adoptado en respuesta a la Ley de IA de la Unión Europea. Para quienes no estén familiarizados con el tema, la Ley de IA exige que el contenido sintético —ya sea audio, imagen, vídeo o texto— incluya marcas legibles por máquina. Se trata de algo similar a una “marca de agua digital” que facilita a los reguladores y otras partes interesadas la identificación y el rastreo del contenido generado por IA.
La capacidad de detectar y rastrear contenidos sintéticos ha cobrado cada vez más importancia, dada la oleada de “deepfakes” y contenidos generados por IA que ha inundado Internet. La implementación de estas marcas de agua podría ofrecer una solución a este complejo problema, proporcionando a los reguladores y a los consumidores una forma de diferenciar entre contenidos creados por humanos y por IA.
Será interesante observar cómo se acogen y qué utilidad tienen estas marcas de agua invisibles en los contenidos generados por Claude. A medida que el mundo se enfrenta a la avalancha de contenidos sintetizados por IA, estas estrategias serán fundamentales para mantener la integridad de la comunicación digital.
Para obtener más información sobre cómo Anthropic está desarrollando la aplicación de marcas de agua invisibles en los textos generados por Claude, puedes consultar el reportaje detallado publicado por The Verge. aquí.
