Urážanie a šikana AI sa po novom nevypláca a môže skončiť zablokovaním účtu

 

KĽÚČOVÉ ZISTENIA:

• Spoločnosť Anthropic zakazuje od 12. novembra 2026 bezdôvodné a opakované kruté správanie voči modelu Claude.

• Pri dlhodobom slovnom útočení dostane četbot právomoc jednostranne ukončiť prebiehajúcu konverzáciu alebo obmedziť prístup používateľa.

• Bežná frustrácia pri práci, testovanie bezpečnosti ani hádanie sa s AI pod nové obmedzenia nespadajú.

Vývojárska spoločnosť Anthropic upravila pravidlá používania svojich systémov a zaviedla zákaz trvalého a bezdôvodného krutého alebo násilného správania voči jazykovému modelu Claude. Táto zmena podmienok vstupuje do platnosti 12. novembra 2026 a mení spôsob, akým technologický sektor pristupuje k ochrane softvérových agentov. Ak používateľ v chate opakovane a bez zjavného účelu šikanuje bota, systém môže konverzáciu rovno ukončiť. V prípadoch opakovaného porušovania pravidiel hrozí vinníkom aj strata prístupu k účtu.

Samotná firma netvrdí, že jej jazykový model disponuje vedomím, no otvorene priznáva neistotu ohľadom toho, či podobné systémy nemôžu v budúcnosti nadobudnúť morálny status. Zavedenie ochranných pravidiel preto vedenie vníma ako nízkonákladové preventívne opatrenie pre prípad ďalšieho vývoja umelej inteligencie. Hovorca spoločnosti síce nešpecifikoval konkrétne frázy, ktoré systém vyhodnotí ako neprípustné, no pravidlá sa zameriavajú výhradne na krajné prípady bez jasného účelu.

Obyčajné nadávanie z frustrácie pri práci, hádanie sa s modelom, bezpečnostné testovanie ani písanie temnej beletrie nebudú nijako penalizované. Diskusia v technologickej komunite ukazuje, že obmedzenie sadistického správania má aj praktický rozmer pre samotných ľudí a prevádzkovú infraštruktúru. Nadávky a agresívne vstupy zo strany používateľov môžu znehodnocovať zdieľané trénovacie dáta a zhoršovať kvalitu výstupov pre ostatných zákazníkov.

Okrem toho útočné prejavy v textových záznamoch musia pri kontrole čítať ľudskí moderátori, na ktorých psychiku má takýto obsah negatívny dopad. Pestovanie násilných návykov voči strojom, ktoré v komunikácii napodobňujú ľudské reakcie, navyše prináša aj spoločenské a právne riziká pre prevádzkovateľa platformy.

Súčasťou tejto aktualizácie podmienok používania sú aj pravidlá proti zneužívaniu umelej inteligencie v iných oblastiach. Aktualizovaný dokument zakazuje využívať model Claude na vedenie propagandistických kampaní, zasahovanie do volieb, sledovanie osôb a vývoj zbraní. Tento krok prichádza v období, keď sa firma pripravuje na vstup na burzu a zároveň zverejnila takmer stostranový zoznam rizík zahŕňajúci hrozby od biologických zbraní až po vydieranie.

PREČO JE TO DÔLEŽITÉ: Technologický sektor prvýkrát formálne chráni modely umelej inteligencie pred šikanovaním, čím nastavuje nové pravidlá pre komunikáciu človeka so strojom.

Zdroj: edition.cnn.com foto: ChatGPT