Americký Anthropic obvinil čínsku Alibabu z destilačného útoku na ich AI Claude

 

KĽÚČOVÉ ZISTENIA:

• Operácia mala využiť takmer 25 000 účtov a 28,8 milióna interakcií.

• Cieľom bolo získať schopnosti uvažovania na tréning konkurenčnej technológie.

• Prípad viedol k obmedzeniu prístupu k pokročilým modelom a debate o exportných kontrolách.

Spoločnosť Anthropic zaslala americkým senátorom list, v ktorom obvinila technologickú korporáciu Alibaba z neoprávneného získavania informácií z jazykového modelu Claude. Výskumníci tento typ bezpečnostného incidentu označujú ako destilačný útok. Podľa spoločnosti išlo o doteraz najväčší pokus o extrakciu analytických schopností z jej systémov. Operácia mala prebiehať organizovane od konca apríla do začiatku júna 2026.

Subjekty údajne napojené na čínske výskumné laboratórium mali vytvoriť rozsiahlu sieť takmer 25 000 podvodných účtov. Tieto profily spolu vygenerovali viac ako 28,8 milióna cielených interakcií so systémom. Cieľom nebolo bežné používanie modelu, ale získavanie jeho odpovedí na tréning inej technológie. Práve tento postup sa označuje ako softvérová destilácia.

Destilácia funguje tak, že vývojári zadávajú pokročilému systému zložité úlohy a jeho detailné odpovede následne používajú na trénovanie vlastného modelu. Tým sa môžu vyhnúť vysokým nákladom na výskum a pokúsiť sa napodobniť schopnosti drahšieho algoritmu.

Získané dáta sa mali zameriavať na autonómne uvažovanie, funkčné programovanie softvéru a riešenie komplexných úloh v dlhšom časovom horizonte. Podľa textu je problémom aj to, že takto trénované systémy často neobsahujú pôvodné bezpečnostné obmedzenia a etické mantinely.

V praxi to môže vytvárať bezpečnostné riziko, pretože neoverená technológia sa pri náročných úlohách môže správať nepredvídateľne. Anthropic uviedol, že podobné prípady zaznamenal už vo februári toho istého roka. Vtedy zverejnil detaily o menších neoprávnených kampaniach, ktoré zahŕňali od 150 000 po 13 miliónov dopytov. Tieto dopyty mali pochádzať od viacerých ázijských výskumných laboratórií.

Podľa spoločnosti tieto aktivity pokračovali napriek oficiálnym varovaniam americkej administratívy. Zástupcovia firmy preto v liste vyzvali na sprísnenie kontroly exportu strategických čipov do Ázie. Štátne inštitúcie na podobné zistenia reagovali regulačným tlakom a prípravou úprav bezpečnostnej legislatívy. Americké ministerstvo zároveň nariadilo dočasné obmedzenie komerčného prístupu k najnovším výskumným modelom Mythos a Fable.

Dôvodom boli obavy z ich možného vojenského alebo spravodajského využitia. Tieto reštrikcie viedli k preventívnemu zablokovaniu prístupu pre bežných používateľov v určitých krajinách. V parlamente sa zároveň pripravujú zmeny zákona, ktoré by administratíve umožnili formálne sankcionovať firmy neoprávnene získavajúce tréningové informácie. Spor tak presahuje technickú rovinu a zasahuje aj do obchodu a medzinárodnej politiky.

Dotknutá spoločnosť vládny krok odmieta a podala voči nemu žalobu. Jej zástupcovia tvrdia, že zaradenie na sankčný zoznam prebehlo bez predloženia relevantných dôkazov. Argumentujú aj tým, že rozhodnutie neprimerane obmedzuje ich prístup k právnemu zastupovaniu. Prípad ukazuje, ako sa vývoj umelej inteligencie čoraz viac prelína s ochranou duševného vlastníctva, reguláciou a geopolitikou.

PREČO JE TO DÔLEŽITÉ: Destilačné útoky môžu kopírovať schopnosti AI modelov bez prevzatia ich pôvodných bezpečnostných pravidiel.

Zdroj: arstechnica.com foto: ChatGPT