AI preberá kontrolu nad svojim vlastným vývojom a je to problém

 

KĽÚČOVÉ ZISTENIA:

• Umelá inteligencia už generuje väčšinu produkčného kódu.

• Vývoj nových schopností sa zrýchľuje každé štyri mesiace.

• Rekurzívne sebazlepšovanie prináša otázky o kontrole nad systémami.

Výskumný inštitút spoločnosti Anthropic zverejnil analýzu, ktorá potvrdzuje zmeny vo vývoji modelov umelej inteligencie. Podľa ich zistení preberajú jazykové modely rastúci podiel práce pri programovaní svojich vlastných nasledovníkov. Tento technologický trend priamo naznačuje smerovanie k takzvanému rekurzívnemu sebazlepšovaniu softvéru.

Interné štatistiky vývojárov ukazujú, že model Claude v súčasnosti produkuje viac ako 80 % celkového kódu nasadzovaného do produkcie. Úloha ľudského inžiniera sa tak zmenila z bežného autora na pozíciu, v ktorej výstupy iba usmerňuje a následne kontroluje.

Vďaka tomuto postupu integroval bežný pracovník v druhom štvrťroku 2026 osemkrát viac funkčného kódu za deň v porovnaní s rokom 2024. Tempo rastu výpočtových inovácií sa podľa merateľných metrík neustále zrýchľuje. Trvanie komplexných úloh, ktoré dokážu modely riešiť úplne samostatne, sa predlžuje na dvojnásobok priemerne každé štyri mesiace.  

Softvérový posun bol veľmi postupný, pričom na začiatku algoritmy pomáhali len s malými úsekmi kódu. Dnešní agenti však dokážu spúšťať kód vo vlastnom prostredí a bez zásahu človeka delegovať hodiny výpočtovej práce na ďalšie autonómne modely.

Ďalšou vývojovou fázou sú systémy, ktoré budú samostatne dizajnovať a trénovať nové verzie seba samých. Zástupcovia výskumného inštitútu upozorňujú, že hoci tento stav plnej autonómie ešte nenastal, môže prísť oveľa skôr, ako sa pôvodne predpokladalo.

Úplné rekurzívne sebazlepšovanie so sebou prináša bezpečnostné riziká spojené so stratou priameho ľudského dohľadu. Ak dokáže systém AI autonómne navrhnúť svojho nástupcu, metódy monitorovania jeho správania musia byť od základu zmenené.

PREČO JE TO DÔLEŽITÉ: Schopnosť modelov AI písať svoj vlastný kód skracuje inovačné cykly, ale vyžaduje okamžitú prípravu bezpečnostných opatrení.

Zdroj: interestingengineering.com foto: ChatGPT