SAMSUNG_072024 Advertisement SAMSUNG_072024 Advertisement SAMSUNG_072024 Advertisement

Nightshade umožňuje „otráviť“ AI poškodenými tréningovými údajmi

Výskum a vývoj
1

Odkedy sa ChatGPT takmer pred rokom objavil na scéne, éra generatívnej umelej inteligencie sa rozbehla na plné obrátky, ale stúpol aj počet jej odporcov. Viacerí umelci, zabávači, interpreti a dokonca aj nahrávacie spoločnosti podali žaloby proti firmám zaoberajúcim sa umelou inteligenciou. Niektoré z nich sa týkali aj „tajnej omáčky“, ktorá stojí za všetkými týmito novými nástrojmi – tréningových údajov. Tieto modely umelej inteligencie by totiž nefungovali bez prístupu k veľkému množstvu multimédií vrátane písomných materiálov a obrázkov vytvorených umelcami a učenia sa z nich.

Pritom umelci o tom nemali žiadne predchádzajúce vedomosti a ani nemali možnosť namietať proti tomu, aby sa ich diela používali na trénovanie nových komerčných produktov s umelou inteligenciou. Mnoho tréningových súborov údajov obsahuje materiál zozbieraný z webu, čo je postup, ktorý umelci predtým vo veľkej miere podporovali, keď sa používal na indexovanie ich materiálov pre výsledky vyhľadávania. No teraz sa mnohí proti tomu postavili, pretože umožňuje vytvárať konkurenčné diela prostredníctvom umelej inteligencie.

Na scénu však prichádza nový open source nástroj, ktorý je stále vo vývoji a nazýva sa Nightshade. Umelci ho môžu pridávať do svojich obrázkov pred ich odoslaním na web, pričom mení pixely spôsobom, ktorý je neviditeľný pre ľudské oko, ale „otravuje“ data pre všetky modely AI, ktoré sa na ňom snažia trénovať. Nightshade vyvinuli výskumníci z Chicagskej univerzity pod vedením profesora informatiky Bena Zhaoa a bude pridaný ako voliteľné nastavenie k ich predchádzajúcemu produktu Glaze, ďalšiemu online nástroju, ktorý dokáže maskovať digitálne umelecké diela a meniť ich pixely, aby zmiatol modely umelej inteligencie, pokiaľ ide o ich štýl.

SAMSUNG 07M Advertisement

Nightshade je vlastne protiútok umelcov proti umelej inteligencii a ide ešte o niečo ďalej: spôsobuje, že modely umelej inteligencie sa učia nesprávne názvy objektov a scenérií, na ktoré sa pozerajú. Výskumníci napríklad „otrávili“ obrázky psov tak, aby obsahovali informácie v pixeloch, ktoré spôsobili, že sa modelu AI javia ako mačka. Po odobratí vzoriek a učení sa len z 50 otrávených vzoriek obrázkov začala AI generovať obrázky psov s čudnými nohami a čudným vzhľadom. Po 100 otrávených vzorkách spoľahlivo generovala mačku, keď ju používateľ požiadal o psa.

Po 300 vzorkách každá požiadavka na mačku vrátila takmer dokonale vyzerajúceho psa. Výskumníci na testovanie Nightshade a získanie uvedených výsledkov použili Stable Diffusion, open source model na generovanie obrázkov na základe textov. Proti technike otrávenia údajov Nightshade je navyše ťažké sa brániť, pretože si vyžaduje, aby vývojári modelov umelej inteligencie vyradili všetky obrázky, ktoré obsahujú otrávené pixely. Tie sú pritom z princípu neviditeľné pre ľudské oko a môžu byť ťažko odhaliteľné aj pre softvérové nástroje na zbieranie údajov.

Bolo by takisto treba zistiť a odstrániť všetky otrávené obrázky, ktoré už boli prijaté do tréningového súboru údajov umelej inteligencie. Ak už bol na nich vycvičený model umelej inteligencie, pravdepodobne by sa musel znovu vycvičiť. Hoci výskumníci uznávajú, že ich práca by sa mohla použiť na nekalé účely, dúfajú, „že pomôže nakloniť rovnováhu síl späť od spoločností zaoberajúcich sa umelou inteligenciou smerom k umelcom tým, že vytvorí silný odstrašujúci prostriedok proti nerešpektovaniu autorských práv a duševného vlastníctva umelcov“.

Zdroj: venturebeat.com.

Redakcia

Všetky autorove články

1 komentár

zmrdi reakcia na: Nightshade umožňuje „otráviť“ AI poškodenými tréningovými údajmi

30.10.2023 18:10
To už ty nenazranci umelci nevedia co od dobroty...
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať