Firma Anthropic podzieliła się szczegółowymi informacjami na temat mechanizmu znakowania wodnego tekstu generowanego przez sztuczną inteligencję Claude.
Poinformowano, w jaki sposób technologia pozwala zidentyfikować treści stworzone przez model, nie wpływając przy tym na jakość odpowiedzi czy styl wypowiedzi. Zmiany stanowią odpowiedź na wymogi prawne zawarte w unijnym rozporządzeniu w sprawie sztucznej inteligencji (EU AI Act).
Dyskretny wzorzec w wyborze słów: zasada działania technologii
Zaprezentowane rozwiązanie opiera się na metodzie SynthID-Text, opracowanej pierwotnie przez Google DeepMind. Model językowy generuje tekst słowo po słowie, analizując prawdopodobieństwo wystąpienia kolejnych wyrazów. W sytuacjach, w których sztuczna inteligencja ma do wyboru kilka równie pasujących słów – na przykład wybierając między określeniem „pochmurno” a „szaro” – system wykorzystuje specjalny klucz do dokonania wyboru.
Proces ten tworzy w tekście statystyczny wzorzec. Dla czytelnika pozostaje on całkowicie niewidoczny, ponieważ model nie wprowadza ukrytych znaków ani nie sięga po nietypowe słownictwo. Zmiana dotyczy wyłącznie źródła losowości przy wyborze wyrazów o niskim znaczeniu dla kontekstu. Znaczenie tekstu, jego czytelność oraz koszt wygenerowania odpowiedzi (liczba tokenów) pozostają bez zmian. Do odczytania takiego wzorca konieczne jest posiadanie dedykowanego klucza kodującego.
Granice skuteczności i edycja tekstu przez użytkownika
Firma Anthropic podkreśla, że znak wodny nie jest narzędziem niezawodnym w każdej sytuacji. Działanie systemu zależy od długości tekstu oraz stopnia jego modyfikacji:
- Lekka edycja: drobne poprawki gramatyczne lub zmiana kilku wyrazów zazwyczaj nie usuwają znaku wodnego, ponieważ większość oryginalnej struktury słownej zostaje zachowana.
- Całkowite przeredagowanie: pełne przepisanie tekstu i zmiana wszystkich słów powoduje usunięcie wzorca. W takim przypadku trudniej jednak mówić o treści wygenerowanej bezpośrednio przez AI.
- Krótkie fragmenty i fakty: w zwięzłych wypowiedziach oraz zdaniach ściśle faktograficznych (gdzie nie ma swobody wyboru synonimów) sygnał znaku wodnego jest znacznie słabszy.
- Kod źródłowy: w przypadku generowania kodu programistycznego margines wyboru alternatywnych sformułowań jest minimalny, co sprawia, że znak wodny ma tam znikomy wpływ i trudniej go wykryć.
System nie pozwala na identyfikację konkretnego użytkownika, organizacji ani rozmowy. Służy wyłącznie do określenia prawdopodobieństwa, czy dany fragment tekstu został przetworzony lub stworzony przez model Claude.
Wymogi EU AI Act i nadchodzące narzędzia weryfikacji
Wdrożenie znaków wodnych na poziomie samego modelu jest bezpośrednią konsekwencją wejścia w życie przepisów unijnych dotyczących przejrzystości sztucznej inteligencji. Wskazano, że rozwiązanie to będzie stosowane we wszystkich produktach i interfejsach wykorzystujących modele Claude uruchomione od 2 sierpnia, a także w usługach dostarczanych przez zewnętrznych dostawców chmurowych.
Przedsiębiorstwo zapowiedziało udostępnienie interfejsu API do detekcji znaków wodnych. Narzędzie to umożliwi zewnętrznym podmiotom oraz platformom weryfikację, czy dany tekst pochodzi z systemów Anthropic. Podobne mechanizmy znakowania wdrażają również inni twórcy modeli językowych, którzy podpisali kodeks postępowania w zakresie przejrzystości AI.
Czytaj także:
