Dans un souci de transparence et afin de se conformer à la réglementation européenne en matière d’IA, Anthropic, la société à l’origine de l’IA baptisée Claude, a annoncé des changements majeurs concernant les textes générés par le robot. Pour ce faire, l'entreprise prévoit d'apposer des filigranes invisibles sur les textes générés par Claude. Il s'agit là d'une avancée majeure, car cela permet un suivi et une vérification plus fiables des contenus générés par l'IA.
L'approche de l'entreprise s'appuie sur une technologie existante, une technique de tatouage numérique open source connue sous le nom de “ SynthID-Text ”. L'approche SynthID-Text a été initialement développée par Google DeepMind et fonctionne en créant des motifs identifiables à partir des probabilités liées à la formulation des textes. Cette méthodologie de tatouage numérique devrait renforcer la traçabilité et la responsabilité des travaux de Claude.
Par ailleurs, Anthropic intègre actuellement la prise en charge de la norme C2PA dans les images traitées par Claude. Ces deux mesures ont été prises en réponse à la loi sur l’IA de l’Union européenne. Pour ceux qui ne le savent pas, la loi sur l’IA impose que les contenus synthétiques – qu’il s’agisse d’audio, d’images, de vidéos ou de texte – comportent des marques lisibles par machine. Cela s’apparente à un “ filigrane numérique ” qui permet aux autorités de régulation et aux autres parties intéressées d’identifier et de retracer plus facilement les contenus générés par l’IA.
La capacité à détecter et à tracer les contenus synthétiques revêt une importance croissante compte tenu de la vague de “ deepfakes ” et de contenus générés par l’IA qui inondent Internet. La mise en place de ces filigranes pourrait potentiellement apporter une solution à ce problème complexe, en offrant aux régulateurs et aux consommateurs un moyen de distinguer les contenus créés par l’homme de ceux générés par l’IA.
Il sera intéressant d'observer l'accueil réservé à ces filigranes invisibles et leur utilité sur les contenus générés par Claude. Alors que le monde est confronté à un déluge de contenus synthétisés par l'IA, de telles stratégies deviendront indispensables pour préserver le tissu de la communication numérique.
Pour plus d'informations sur la manière dont Anthropic met en œuvre l'utilisation de filigranes invisibles sur les textes générés par Claude, vous pouvez consulter l'article détaillé publié par The Verge. ici.
