Anthropic opisuje działanie niewidocznych znaków wodnych w tekście generowanym przez Claude’a

W nieustannie ewoluującym świecie sztucznej inteligencji europejskie przepisy dotyczące przejrzystości powodują znaczące zmiany. Firma Anthropic, zajmująca się sztuczną inteligencją, niedawno ujawniła, w jaki sposób zamierza wprowadzać niewidoczne znaki wodne do treści tworzonych przez jej systemy AI. Robot, o którym mowa, pieszczotliwie nazywany Claude, stanowi centralny element tej przełomowej zmiany.

Nowo opracowany przez Claude’a system znakowania tekstu w znacznym stopniu opiera się na podejściu SynthID-Text, które zakłada wykorzystanie technologii znakowania wodnego typu open source. Podejście to, pierwotnie opracowane przez czołowego gracza w branży – firmę Google DeepMind – wykorzystuje prawdopodobieństwa występowania słów do tworzenia rozpoznawalnych wzorów. Wzory te pełnią zasadniczo rolę znaku wodnego, wskazując na syntetyczny charakter treści bez zakłócania jej płynności ani wyglądu.

Oprócz ulepszeń w zakresie oznaczania tekstu w Claude, firma Anthropic wprowadza również obsługę architektury kompleksowej ochrony treści (C2PA) dla obrazów przetwarzanych przez Claude. Jest to ogromny krok naprzód nie tylko dla firmy Anthropic, ale także dla całej branży sztucznej inteligencji. Te strategiczne zmiany stanowią istotną część działań firmy mających na celu dostosowanie się do unijnej ustawy o sztucznej inteligencji.

Unijna ustawa o sztucznej inteligencji to kompleksowy akt prawny mający na celu uregulowanie kwestii związanych z technologią sztucznej inteligencji na całym kontynencie. Jednym z jej kluczowych wymogów jest to, aby syntetyczne treści audio, graficzne, wideo i tekstowe generowane przez sztuczną inteligencję – takie jak te tworzone przez Claude’a – zawierały oznaczenia rozpoznawalne przez maszyny. W tym miejscu do gry wchodzą niewidoczne znaki wodne.

Przestrzeganie tych przepisów nie tylko sprzyja przejrzystości, ale także pozwala użytkownikom dowiedzieć się, skąd pochodzą treści – co stanowi nowość w świecie sztucznej inteligencji. Połączenie systemu oznaczania tekstu stosowanego przez Claude’a oraz obrazów zgodnych z C2PA stanowi znaczący krok naprzód w kierunku etycznego wykorzystywania i rozpowszechniania treści generowanych przez sztuczną inteligencję.

Nie ulega wątpliwości, że fala postępu w dziedzinie sztucznej inteligencji nieustannie przesuwa granice technologii i jej zastosowań. Podobnie jak w przypadku każdego postępu technologicznego, przejrzystość i kwestie etyczne pozostają sprawami nadrzędnymi. Najnowsze działania firmy Anthropic, wynikające z unijnej ustawy o sztucznej inteligencji, stanowią wyraźny dowód tej tendencji.

Przeczytaj całą historię na The Verge.

Mogą Ci się również spodobać

Porozmawiaj z ALIA

ALIA