W trosce o zachowanie przejrzystości i zgodność z europejskimi przepisami dotyczącymi sztucznej inteligencji firma Anthropic, twórca systemu AI o nazwie Claude, ogłosiła wprowadzenie istotnych zmian w treściach generowanych przez tego robota. Aby to osiągnąć, firma planuje wprowadzić niewidoczne znaki wodne w tekstach generowanych przez Claude'a. Stanowi to znaczący kamień milowy, ponieważ umożliwia bardziej niezawodne śledzenie i weryfikację treści generowanych przez sztuczną inteligencję.
Podejście firmy opiera się na istniejącej technologii – technologii znakowania wodnego typu open source znanej jako metoda “SynthID-Text”. Metoda SynthID-Text została po raz pierwszy opracowana przez Google DeepMind i polega na tworzeniu rozpoznawalnych wzorców na podstawie prawdopodobieństw występowania określonych sformułowań. Oczekuje się, że ta metodologia znakowania wodnego zwiększy identyfikowalność i rozliczalność prac generowanych przez Claude’a.
Ponadto firma Anthropic wprowadza obsługę C2PA w obrazach przetworzonych przez Claude’a. Oba te działania zostały podjęte w odpowiedzi na unijną ustawę o sztucznej inteligencji (AI Act). Dla tych, którzy nie są zaznajomieni z tematem, ustawa o sztucznej inteligencji nakłada obowiązek umieszczania w treściach syntetycznych – czy to audio, obrazach, filmach czy tekstach – znaków rozpoznawalnych przez maszyny. Przypomina to “cyfrowy znak wodny”, który ułatwia organom regulacyjnym i innym zainteresowanym stronom identyfikację oraz śledzenie treści generowanych przez sztuczną inteligencję.
Zdolność do wykrywania i śledzenia treści syntetycznych nabiera coraz większego znaczenia w obliczu fali “deepfake’ów” i treści generowanych przez sztuczną inteligencję, które zalewają internet. Wprowadzenie tych znaków wodnych mogłoby potencjalnie stanowić rozwiązanie tego złożonego problemu, dając organom regulacyjnym i konsumentom możliwość odróżnienia treści stworzonych przez człowieka od treści generowanych przez sztuczną inteligencję.
Ciekawie będzie obserwować, jak te niewidoczne znaki wodne zostaną przyjęte i jak przydadzą się w treściach generowanych przez Claude’a. W obliczu zalewu treści tworzonych przez sztuczną inteligencję strategie tego typu staną się niezbędne dla zachowania spójności komunikacji cyfrowej.
Aby uzyskać dodatkowe informacje na temat tego, w jaki sposób firma Anthropic wdraża niewidoczne znaki wodne w tekstach generowanych przez Claude’a, zapraszamy do zapoznania się ze szczegółowym artykułem opublikowanym przez serwis The Verge tutaj.
