AI nie ukryje się tak łatwo. Europa wymusza „cyfrowy tatuaż” na generowanych treściach

‍

‍

Tekst może wyglądać całkowicie zwyczajnie. Bez etykiety, dodatkowego symbolu czy informacji widocznej dla czytelnika. Mimo to w jego strukturze może znajdować się niewidoczny ślad wskazujący, że w procesie tworzenia uczestniczyła sztuczna inteligencja.

‍

Bruksela chce, aby identyfikowanie takich materiałów stało się łatwiejsze. Od 2 sierpnia dostawcy najbardziej zaawansowanych modeli generatywnej AI zostali objęci europejskimi wymogami dotyczącymi przejrzystości. Użytkownik powinien wiedzieć, kiedy wchodzi w interakcję ze sztuczną inteligencją, a wygenerowane przez nią materiały mają być możliwe do rozpoznania jako treści powstałe przy użyciu AI.

‍

Samo oznaczanie pochodzenia materiałów nie jest całkowicie nowym pomysłem. Najwięksi gracze technologiczni od pewnego czasu rozwijają podobne rozwiązania. Zasadnicza zmiana polega na tym, że w Europie przejrzystość przestaje być wyłącznie dobrowolną deklaracją branży.

‍

Claude otrzymuje niewidoczny znak

‍

Anthropic należy do firm, które przedstawiły sposób dostosowania swoich modeli do nowych zasad.

‍

Firma zapowiedziała, że modele Claude wprowadzane od 2 sierpnia będą umieszczać w generowanych tekstach niewidoczny filigran. Czytelnik nie powinien zauważyć żadnej różnicy w wyglądzie ani sposobie czytania materiału.

‍

Informacja ma być zaszyta bezpośrednio w tekście i zaprojektowana w taki sposób, aby przetrwać między innymi zwykłe kopiowanie i wklejanie. Oznacza to, że wraz z fragmentem tekstu do kolejnego miejsca może przenieść się także informacja wskazująca na jego kontakt z systemem AI.

‍

Brzmi jak skuteczny sposób na rozpoznawanie sztucznej inteligencji, ale technologia ma istotne ograniczenia.

‍

Filigran nie odpowie na pytanie: „Kto to napisał?”

‍

Obecność cyfrowego oznaczenia nie musi oznaczać, że cały tekst został napisany przez AI.

‍

Jeżeli człowiek przygotuje artykuł samodzielnie, a następnie użyje Claude'a do jego korekty, tłumaczenia czy streszczenia, końcowa wersja również może otrzymać cyfrowy ślad.

‍

Działa to także w przeciwną stronę. Bardzo krótki fragment albo tekst poddany daleko idącym zmianom może stracić oznaczenie.

‍

W praktyce filigran ma więc przede wszystkim sygnalizować, że dany materiał przeszedł przez system sztucznej inteligencji. Nie stanowi automatycznego dowodu, że AI jest faktycznym autorem całej treści.

‍

Koniec problemu prac domowych pisanych przez AI? Niekoniecznie

‍

To ważne ograniczenie szczególnie z punktu widzenia szkół i uczelni.

‍

Niewidoczne oznaczenia mogą wydawać się atrakcyjnym sposobem na szybkie sprawdzenie, czy student wykorzystał generatywną AI podczas przygotowywania pracy. W rzeczywistości sam filigran nie wystarczy do jednoznacznego rozstrzygnięcia autorstwa.

‍

Tekst przygotowany przez człowieka, ale poprawiony przez AI, może zostać oznaczony. Materiał pierwotnie wygenerowany przez model, lecz później mocno przeredagowany, może natomiast stracić cyfrowy ślad.

‍

Dodatkowym problemem jest dostępność narzędzi do odczytywania takich oznaczeń. Anthropic nie udostępnił jeszcze publicznie rozwiązania pozwalającego wykrywać jego tekstowy filigran.

‍

Obrazy i dźwięk wymagają innych rozwiązań

‍

W przypadku materiałów innych niż tekst mechanizmy identyfikowania pochodzenia mogą działać inaczej.

‍

Anthropic przewiduje stosowanie podpisanych metadanych dotyczących pochodzenia plików. Rozwijane są również rozwiązania wykorzystujące standard C2PA, którego celem jest zachowanie informacji o historii i źródle cyfrowych materiałów.

‍

Technologie znakowania nie ograniczają się przy tym do jednej firmy. Na rynku rozwijane są systemy niewidocznych oznaczeń dla obrazów, dźwięku i innych materiałów generowanych przez modele AI.

‍

W efekcie internet może stopniowo otrzymywać dodatkową warstwę informacji — niewidoczną podczas zwykłego korzystania z treści, ale możliwą do odczytania przez odpowiednie systemy.

‍

Samo oznaczenie nie wystarczy

‍

Kluczowym elementem całego mechanizmu jest detekcja. Niewidoczny filigran ma niewielką wartość, jeśli platformy internetowe nie potrafią go rozpoznać.

‍

Walter Pasquarelli, badacz z University of Cambridge i doradca OECD, opisał w rozmowie z Politico scenariusz, w którym użytkownik generuje materiał w Claude, a następnie publikuje go w mediach społecznościowych. Platforma mogłaby podczas publikacji automatycznie przeskanować treść i wykryć zawarte w niej oznaczenie.

‍

Wówczas niewidoczny dla człowieka sygnał mógłby zostać przekształcony w czytelną informację, że przy powstawaniu materiału wykorzystano sztuczną inteligencję.

‍

To właśnie integracja znakowania z systemami największych platform może zdecydować, czy rozwiązanie stanie się praktycznym standardem.

‍

Etykieta „AI” może zmienić zachowanie internautów

‍

Stawka nie ogranicza się do technicznego ustalenia pochodzenia tekstu czy obrazu.

‍

Według przywoływanych przez Pasquarellego badań świadomość, że materiał został wygenerowany przez sztuczną inteligencję, może obniżać zaangażowanie odbiorców.

‍

Platformy zaczynają już reagować na masową produkcję niskiej jakości treści generowanych automatycznie. LinkedIn umożliwia użytkownikom zgłaszanie postów, które wyglądają na tzw. „AI slop” — masowo wytwarzane materiały AI o niewielkiej wartości.

‍

Powszechne mechanizmy wykrywania pochodzenia mogłyby więc wpłynąć nie tylko na regulacje, ale także na sposób dystrybucji i oceniania treści w internecie.

‍

Europejskie przepisy mogą mieć globalne konsekwencje

‍

Skutki zmian mogą wykroczyć poza granice Unii Europejskiej.

‍

Według opisywanych planów Anthropic zamierza stosować swoje oznaczenia globalnie, a nie wyłącznie wobec użytkowników z UE. Jeśli podobną strategię przyjmą kolejne firmy, europejskie regulacje mogą pośrednio wpłynąć na standardy obowiązujące na całym świecie.

‍

Pod koniec lipca około 190 organizacji podpisało kodeks dobrych praktyk związany z europejskimi regulacjami AI. Wśród nich znalazły się m.in. Google, Meta, Microsoft, Mistral oraz OpenAI.

‍

Za nieprzestrzeganie odpowiednich wymogów przedsiębiorstwom mogą grozić poważne konsekwencje finansowe — kary sięgające 15 mln euro lub 3 proc. globalnego rocznego obrotu.

‍

Internet, w którym AI trudniej będzie ukryć

‍

Niewidoczne znakowanie nie rozwiązuje problemu identyfikacji materiałów AI raz na zawsze. Filigran może zostać utracony, a jego obecność nie przesądza o rzeczywistym autorstwie.

‍

Zmiana jest jednak znacząca z innego powodu.

‍

Powstaje infrastruktura, dzięki której platformy, aplikacje i inne systemy będą mogły automatycznie otrzymywać informację, że podczas tworzenia konkretnego materiału wykorzystano generatywną sztuczną inteligencję.

‍

Jeśli rozwiązania te zostaną powszechnie przyjęte, pytanie „czy stworzyła to AI?” coraz częściej może być rozstrzygane nie na podstawie stylu tekstu czy wyglądu obrazu, lecz zapisanych w samym materiale cyfrowych informacji o jego pochodzeniu.

‍