Čo presne robí ChatGPT s textom, ktorý z neho kopírujete?

 

KĽÚČOVÉ ZISTENIA:

• OpenAI zavádza v Európskej únii neviditeľný vodoznak textGrain pre textové výstupy z nástrojov ChatGPT a Codex.

• Technológia pridáva štatistický signál upravujúci výber slov modelu, pričom používateľov v USA a Veľkej Británii sa zmena netýka.

• Nástroj na detekciu vodoznaku nie je verejný, prístup k nemu získajú len schválení výskumníci a odborné organizácie.

Spoločnosť OpenAI oznámila 5. októbra plány na pridávanie neviditeľného vodoznaku do textových výstupov z nástrojov ChatGPT a Codex. Tento krok je priamou reakciou na európsky zákon EU AI Act, ktorý od poskytovateľov generatívnej umelej inteligencie vyžaduje, aby bol vygenerovaný text strojovo identifikovateľný. Podobný krok urobila už skôr spoločnosť Anthropic so svojím modelom Claude, tá však vodoznak zaviedla celosvetovo.

OpenAI sa rozhodla obmedziť geografický dosah výlučne na zákazníkov žijúcich v EÚ. Používateľov v USA a vo Veľkej Británii sa táto úprava nedotkne. Na vkladanie vodoznaku používa OpenAI vlastný systém s názvom textGrain. Táto technológia pridáva do výberu slov modelu neviditeľný štatistický signál, ktorý jemne mení konkrétne slová v generovanom texte. Podrobnosti o fungovaní systému textGrain sa nachádzajú v technickej správe spoločnosti, ktorá bude v najbližších týždňoch aktualizovaná o ďalšie detaily.

Samotný fakt, že výber slov plateného nástroja ovplyvňuje algoritmus vodoznaku namiesto snahy o optimálny výsledok pre zákazníka, vyvoláva otázky o kvalite výstupov. Výsledný text nemusí byť automaticky horší, no kvôli zásahom algoritmu už nebude z pohľadu používateľa optimálny. Na odhalenie textu vytvoreného pomocou systému textGrain je potrebný špeciálny detekčný nástroj, ktorý momentálne nie je dostupný pre verejnosť.

OpenAI sprístupňuje tento detektor len schváleným výskumníkom a odborným organizáciám, ktoré oň môžu požiadať. Nástroj pri kontrole iba oznámi, či zaznamenal vodoznak OpenAI, pričom neidentifikuje samotného používateľa a neodhalí jeho zadania ani konverzácie. Dôvodom, prečo detektor nie je pri spustení verejne dostupný, je riziko prehliadnutia vodoznakov a výskytu falošne pozitívnych výsledkov.

Samotná spoločnosť OpenAI uvádza, že detektory sú náchylné na chyby a kratší alebo viac obmedzený text sa odhaľuje ťažšie. Dodatočné úpravy vygenerovaného textu navyše dokážu vodoznak oslabiť alebo potenciálne odstrániť. Otvorenou otázkou zostáva aj to, či používatelia dokážu systém obísť priamym príkazom v zadaní, aby ChatGPT nepoužíval textGrain. Celé riešenie tak pôsobí skôr ako formálne splnenie legislatívnych požiadaviek zákona EU AI Act než ako reálny nástroj na verejnú transparentnosť. Bežný človek mimo vybranej skupiny expertov si totiž prítomnosť tohto “vodoznaku” v texte nedokáže sám overiť.

PREČO JE TO DÔLEŽITÉ: Zavedenie systému textGrain ukazuje, ako regulácia EU AI Act priamo mení fungovanie jazykových modelov a ovplyvňuje kvalitu generovaného textu pre európskych používateľov.

Zdroj: techradar.com foto: ChatGPT