Con el fin de mitigar las preocupaciones en materia de transparencia en torno a los chatbots y los «deepfakes» generados por IA, la Unión Europea ha introducido nuevas directrices que obligan a las empresas a revelar el uso que hacen de los modelos de IA. Estos requisitos, que forman parte de la Ley de IA transformativa de la UE, entraron en vigor el 2 de agosto y obligan a las empresas a aclarar si son personas las que interactúan con los modelos de IA o si el contenido que consumen ha sido generado o modificado por dichos modelos.
Las directivas varían entre los “proveedores” —empresas que desarrollan y comercializan sistemas de IA— y los “implementadores” —plataformas y servicios que utilizan dichos sistemas de IA—. Curiosamente, algunas empresas, como Meta y SpaceXAI, se encuentran clasificadas en ambas categorías. Esta división reconoce los diversos roles que las empresas pueden desempeñar en el panorama de la IA y establece las normativas adecuadas.
Además de los requisitos establecidos para las empresas, la Unión Europea también ha proporcionado etiquetas de IA para que las utilicen las empresas. Estas etiquetas constituyen una solución estandarizada, destinada a utilizarse en todas las plataformas con el objetivo común de garantizar la transparencia, y pueden adoptarse en lugar de crear otras propias y específicas para cada empresa. Se espera que, si un número suficiente de empresas adopta estas etiquetas, se conviertan en un símbolo coherente en todas las plataformas en línea, lo que fomentará aún más una comprensión uniforme por parte de los usuarios en sus interacciones con los sistemas de IA.
Una de las condiciones que deben cumplir los proveedores según la nueva normativa especifica que los sistemas de IA deben diseñarse de tal forma que quede explícitamente claro cuándo un usuario está interactuando con uno de estos sistemas. Esto, una vez más, se enmarca en el objetivo más amplio de fomentar la transparencia y la confianza entre los usuarios y las tecnologías de IA.
Aunque los verdaderos efectos de estas obligaciones adicionales en materia de transparencia solo se pondrán de manifiesto con el tiempo, suponen un importante paso adelante en la regulación y el control de la IA, y responden a las crecientes preocupaciones sobre la transparencia en el sector.
Crédito: The Verge.
