Niewidoczny znak wodny dla tekstów ChatGPT i Codex w UE
OpenAI ma dodać niewidoczny znak wodny do tekstów tworzonych przez ChatGPT oraz Codex w Unii Europejskiej. Rozwiązanie to ma umożliwić techniczne rozpoznanie, czy dany fragment powstał przy użyciu generatywnego modelu AI.
Jednocześnie firma przyznaje, że testy ujawniły istotne ograniczenie tej metody: edycja wygenerowanego materiału może osłabiać znak wodny, a tym samym utrudniać jego późniejsze wykrycie. To kluczowa informacja, ponieważ teksty tworzone przez ludzi i modele językowe z reguły przechodzą kolejne etapy redakcji, korekty lub modyfikacji.
Według doniesień źródłowych OpenAI planuje też udostępnić to rozwiązanie w API jako funkcję opcjonalną. Wdrożenie mechanizmu w formule opt-in sugeruje, że nie będzie on włączony domyślnie we wszystkich zastosowaniach interfejsu programistycznego.
Nasz komentarz: Znak wodny może zwiększyć rozliczalność generowania tekstu, ale jego podatność na edycję wyklucza traktowanie go jako pewnego dowodu pochodzenia treści.
Dlaczego edytowalny tekst jest trudnym przypadkiem dla watermarkingu
W naszej ocenie najważniejszy wątek tej zapowiedzi nie dotyczy samego wdrożenia znaku wodnego, lecz granic jego praktycznej użyteczności. Tekst jest nośnikiem wyjątkowo podatnym na modyfikacje: można go skrócić, przeformułować, połączyć z własnymi fragmentami albo zmienić jego strukturę. Jeśli każda z tych operacji obniża wykrywalność oznaczenia, system przestaje być odporny na typowy przepływ pracy z materiałem wygenerowanym przez model.
To odróżnia znakowanie wodne tekstu od mechanizmów, które miałyby pełnić funkcję trwałego zabezpieczenia. W tym przypadku bardziej realistyczne jest traktowanie go jako sygnału pomocniczego niż uniwersalnego narzędzia rozstrzygającego o autorstwie. Brak wykrytego znaku nie musi przecież oznaczać, że model nie brał udziału w przygotowaniu tekstu – oznaczenie mogło zostać usunięte lub zatarte podczas późniejszej edycji.
- Identyfikacja pochodzenia – znak wodny może pomóc wskazać materiał bezpośrednio wygenerowany przez system, o ile pozostanie on wystarczająco zbliżony do oryginału.
- Ograniczona odporność – testy OpenAI pokazują, że nawet zwykła ingerencja redakcyjna stanowi realne wyzwanie dla skutecznego wykrywania.
- Dobrowolność w API – model opt-in pozwala użytkownikom API zdecydować, czy chcą korzystać z takiego sposobu oznaczania tekstu.
Uważamy, że rynek będzie musiał ostrożnie oceniać deklaracje dotyczące wykrywania treści generowanych przez sztuczną inteligencję. Im bardziej mechanizm ma służyć do ustalania pochodzenia, tym istotniejsze stają się jego odporność na modyfikacje oraz precyzyjne określenie, czego wynik analizy faktycznie dowodzi.
W skrócie
- OpenAI planuje wprowadzić niewidoczny znak wodny do tekstów generowanych przez ChatGPT i Codex w Unii Europejskiej.
- Firma potwierdza, że edycja tekstu może osłabić skuteczność wykrywania oznaczenia.
- W naszej ocenie znakowanie wodne tekstu pozostanie narzędziem pomocniczym, a nie niezawodnym dowodem pochodzenia materiału.
Opracowanie redakcyjne na podstawie artykułu Search Engine Journal: https://www.searchenginejournal.com/openai-to-watermark-chatgpt-text-in-the-eu-opens-api-opt-in/592014/