ASUS_112026 ASUS_112026 ASUS_112026

Anthropic spustil bezpečnostný alarm pre samostatne sa zlepšujúcu umelú inteligenciu

Technológie
0

 

KĽÚČOVÉ ZISTENIA:

  • Spoločnosť Anthropic v dokumentoch pre komisiu SEC potvrdila prekročenie prahu vo svojej politike Responsible Scaling Policy.

  • Opatrenia súvisia s míľnikom recursive self-improvement, pri ktorom sa umelá inteligencia dokáže samostatne zdokonaľovať.

  • Alarm nespustili súčasné modely, ale odhady očakávajúce zdvojnásobenie základného tempa vývoja budúcich systémov.

Spoločnosť Anthropic na čele s výkonným riaditeľom Dariom Amodeiom v dokumentoch pre burzovú komisiu SEC oznámila, že prekročila interný prah spojený s pojmom recursive self-improvement, skrátene RSI. Ide o míľnik, pri ktorom sa technológia umelej inteligencie dokáže autonómne vylepšovať bez zásahu človeka. Ako upozornil autor Mike Pearl z portálu Gizmodo, firma týmto krokom neohlasuje príchod technologickej singularity, ale aktiváciu procedurálnych pravidiel v rámci svojho dokumentu Responsible Scaling Policy. Toto oznámenie prišlo v čase, keď sa Anthropic pripravuje na vstup na burzu a jeho akcie sa majú začať obchodovať.

Vývoj situácie ukazuje porovnanie dvoch verzií registračného formulára Form S-1. V podaní z 2. novembra 2026 Anthropic uviedol, že sa blíži k splneniu kritérií pre zrýchlený pokrok pripisovaný umelej inteligencii, pričom cieľom politiky Responsible Scaling Policy je práve monitorovanie a zmierňovanie rizík pri približovaní sa k stavu recursive self-improvement. V dokumente z 10. novembra 2026 už formulácia o zrýchlenom pokroku vypadla, no firma potvrdila, že príslušná sekcia pravidiel vstúpila do platnosti.

Samsung 072026 Advertisement

Spoločnosť vysvetlila, že nasadenie systémov umelej inteligencie už teraz urýchľuje jej vlastný výskum a vývoj a interné odhady naznačujú ďalšie zvýšenie tohto tempa. Rozhodujúce je, že prah pre oblasť výskumu a vývoja v dokumente Responsible Scaling Policy sa aktivuje vtedy, keď firma určitý stupeň zrýchlenia priamo pozoruje alebo ho očakáva. Podľa pravidiel spoločnosti Anthropic je táto hranica definovaná ako zdvojnásobenie základného tempa zlepšovania. Samotné prekročenie prahu tak firma nevyhlásila na základe skoku pri súčasných modeloch, ale na základe očakávaní od budúcich modelov a celkovej rýchlosti doterajšieho napredovania.

Prekročenie tejto hranice ukladá firme povinnosť zaviesť tri ochranné opatrenia. Po prvé musí preskúmať a nasadiť vyššiu úroveň kybernetickej bezpečnosti a ochrany svojich aktív, a po druhé musí dosiahnuť stav prevádzkového prehľadu, aby mala pod kontrolou správanie a aktivity modelov. Tretím bodom je vykonávanie interného testovania zraniteľností, takzvaného red-teamingu, v takom rozsahu, že externé odmeny za hľadanie chýb v podobe bug bounty programov sa stanú nadbytočnými.

V liste zakladateľov pred vstupom na burzu vedenie zároveň uviedlo, že bezpečný vývoj si od spoločnosti Anthropic aj celého odvetvia môže vyžiadať regulovanie tempa, akým sa schopnosti umelej inteligencie nabaľujú, najmä keď tento proces poháňajú systémy budujúce samy seba.

PREČO JE TO DÔLEŽITÉ: Tvorca jazykových modelov formálne aktivoval bezpečnostné protokoly pre samočinne sa zlepšujúcu umelú inteligenciu, hoci zatiaľ na základe predpovedí.

Zdroj: gizmodo.com foto: ChatGPT

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať