Kód generovaný AI už nedokážu prečítať ani samotní programátori

 

KĽÚČOVÉ ZISTENIA:

• Až 35 % kódu vygenerovaného umelou inteligenciou ide do prevádzky bez toho, aby mu vývojári plne rozumeli.

• Vývojári prichádzajú o zručnosti, keďže namiesto písania kódu ho po umelej inteligencii iba kontrolujú a opravujú.

• Súčasné modely zlyhávajú pri komplexných úlohách, robia povrchné opravy a nechápu širší kontext celého projektu.

Programátorská profesia prechádza zásadnou zmenou, pretože programátori čoraz viac iba kontrolujú výstupy jazykových modelov. Viacerí vývojári uvádzajú, že už nedokážu analyzovať vygenerovaný kód riadok po riadku, čo znižuje ich schopnosť analyticky myslieť. Postupne tak strácajú základné zručnosti potrebné na navrhovanie komplexných softvérových architektúr. Korporátny tlak na zavádzanie umelej inteligencie však pokračuje a firmy aktívne motivujú zamestnancov k jej využívaniu.

S týmto novým problémom sa stretávajú aj skúsení inžinieri v popredných technologických firmách priamo pri každodennom vývoji. Pri kontrole softvéru pre grafické procesory zamestnanci zvyčajne rozumejú hardvérovému konceptu, ale konkrétnym strojovým inštrukciám už nie. Modely totiž inštrukcie testujú a následne optimalizujú takým spôsobom, ktorý už ľudskému uvažovaniu jednoducho nedáva zmysel.

Niektorí odborníci to považujú za nevyhnutný posun v odvetví, pri ktorom človek len zadá kritériá a neurónová sieť urobí zvyšok práce. Strata kontroly prináša reálne prevádzkové riziká, ktoré niektoré firmy už začínajú pociťovať na vlastnej koži. Štatistiky ukazujú, že až 35 % umelo vytvoreného kódu putuje do ostrej prevádzky bez dôkladného pochopenia pôvodným tímom. Až 29 % vývojárov zároveň priznáva stratu produktivity viackrát do mesiaca, lebo musia zdĺhavo a dodatočne opravovať strojový kód vygenerovaný AI.

Kvalita modelov AI pri zložitejších úlohách stále nedosahuje úroveň potrebnú pre plné nahradenie skúsených ľudí. Pri rozsiahlom teste na 1 400 reálnych komerčných zákazkách vyšlo najavo, že popredné modely AI zvládajú zväčša iba povrchné úpravy kódu. Pri hľadaní skrytých chýb vo veľkých projektoch rýchlo strácajú kontext a ich riešenia sú často neúplné alebo priamo nesprávne.  

PREČO JE TO DÔLEŽITÉ: Spoliehanie sa na automatizované kódovanie ohrozuje bezpečnosť projektov a znižuje schopnosť vývojárov riešiť naozaj ťažké problémy.

Zdroj: futurism.com foto: ChatGPT