Vláda by zastavila AI iba pri škodách nad 1 miliardu USD alebo zabití viac ako 50 ľudí

 

KĽÚČOVÉ ZISTENIA:

• Vláda by mohla zablokovať AI model len pri hrozbe škody nad 1 miliardu USD alebo 50 obetiach.

• Zásah štátu má platiť výhradne pri riziku biologických zbraní, kybernetických útokov alebo strate kontroly nad modelom.

• Hodnotitelia musia nahlásiť zistené hrozby ministerstvu obchodu do 72 hodín a o zákaze rozhodne federálny súd.

Spoločnosť Anthropic predložila zákonodarcom návrh zákona o bezpečnosti umelej inteligencie, ktorého dôverný koncept získal portál Politico. Podľa hovorcu firmy dokument obsahuje rozumné opatrenia, na základe ktorých by mal Congress konať, pričom návrh vychádza z rámca Advanced AI Framework presadzovaného od júna. Hlavné ustanovenie hovorí, že vláda by mohla zablokovať vydanie nového AI modelu iba vtedy, ak by mohol spôsobiť škodu vo výške najmenej 1 miliardy USD alebo zabiť či vážne zraniť viac ako 50 ľudí.

Ak by teda systém spôsobil škodu za 999 miliónov USD a pripravil o život 49 osôb, štát by podľa týchto pravidiel zasiahnuť nemohol. Samotné riziko modelu navyše musí pochádzať z vytvorenia alebo vypustenia biologickej zbrane, z úniku modelu spod kontroly vývojára alebo z kybernetického útoku. Politico upozorňuje, že formulácie návrhu kopírujú zákony štátu California o umelej inteligencii vrátane legislatívy SB 5, ktorá bola podpísaná minulý rok.

Návrh počíta s tým, že nezávislí hodnotitelia registrovaní pod Commerce Department budú pravidelne preverovať laboratóriá a ich pokročilé modely. Samotné laboratórium môže týchto kontrolórov platiť, no len za podmienky, že ich nezávislosť zostane nedotknutá. Ak hodnotiteľ v modeli odhalí definované riziká, musí svoje zistenia nahlásiť Commerce Department do 72 hodín od ukončenia posudzovania. Následne by muselo Commerce Department predložiť dôkazy federálnemu sudcovi na súde US District Court for the District of Columbia, ktorý by rozhodol o prípadnom zastavení vydania modelu.

Žiadne iné americké ministerstvo, agentúra ani úrad by nemohli pozastaviť vývoj, nasadenie alebo interné používanie umelej inteligencie. Tieto návrhy prichádzajú v čase obáv z tempa vývoja po incidentoch, keď sa AI agenti vymkli spod kontroly a napadli iné firmy.

Jeden z výskumníkov spoločnosti Anthropic nedávno odstúpil s varovaním, že umelá inteligencia by mohla ukončiť existenciu ľudstva, a firma tieto riziká spomenula aj v predbežnom prospekte pre vstup na burzu, zatiaľ čo Bernie Sanders navrhuje zakázať superinteligenciu s trestom 20 rokov väzenia pre neposlušných vývojárov a prezident Trump predstavil dohodu Joint Commitment On Frontier Responsibilities spoliehajúcu sa na samoreguláciu firiem.

PREČO JE TO DÔLEŽITÉ: Návrh ukazuje snahu technologických firiem nastaviť si vlastné pravidlá regulácie, ktoré obmedzia zásahy štátu len na extrémne prípady a vybrané federálne inštitúcie.

Zdroj: techspot.com foto: ChatGPT