Firmy čelia extrémnym nákladom na využívanie nástrojov AI

 

KĽÚČOVÉ ZISTENIA:

• Korporácie čelia vysokým výdavkom pre nesprávne nastavené limity na umelú inteligenciu.

• Rozúčtovanie za modelové tokeny komplikuje finančným riaditeľom tvorbu spoľahlivých rozpočtov.

• Podniky postupne presúvajú bežnú pracovnú agendu na lacnejšie a menšie modely.

Integrácia umelej inteligencie do firemného prostredia prináša nečakanú finančnú záťaž na prevádzku. Spoločnosti dlhodobo využívali predvídateľné licenčné platby za štandardný softvér, prístup k jazykovým modelom však funguje inak. Poskytovatelia služieb si účtujú poplatky za spracovanie tokenov, čo sú menšie časti textu alebo kódu.

Tento spôsob fakturácie znižuje presnosť pri plánovaní ročných firemných rozpočtov. Prieskum spoločnosti KPMG ukázal, že ucelený prehľad o výdavkoch na umelú inteligenciu má iba štvrtina organizácií. Ďalšia pätina firiem o týchto sumách nemá žiadne údaje a celkové náklady zisťuje z vystavených faktúr.

Chýbajúce limity pre zamestnancov zapríčinili vo viacerých firmách vážne prečerpania pridelených prostriedkov. V jednom zdokumentovanom prípade minul klient konzultačnej firmy na tieto služby pol miliardy USD. Primárnym dôvodom tohto stavu bola chýbajúca administratívna kontrola nad zamestnaneckými účtami pre model Claude.

Súčasné nastavenie podnikových štruktúr navyše často generuje neefektívne využívanie strojového času. Amazon musel zrušiť systém hodnotenia zamestnancov založený na ich aktivite pri práci s podnikovými asistentmi. Pracovníci zadávali systémom fiktívne úlohy za účelom formálneho zvýšenia svojho pracovného skóre.

Podniky čelia dileme, ako kategorizovať výdavky spojené s výpočtovým výkonom a softvérovými inováciami. Účtovné oddelenia váhajú medzi zaradením do bežných prevádzkových nákladov alebo klasifikáciou ako kapitálové investície. Neschopnosť zmerať skutočný obchodný prínos spôsobuje, že výpočet návratnosti investícií je vysoko nepresný.

Manažéri na túto situáciu reagujú zavedením systematického riadenia prístupov k jednotlivým technológiám. Softvéroví inžinieri implementujú smerovanie požiadaviek, vďaka ktorému zadávajú bežné úlohy modelom s citeľne nižšími nákladmi. Tieto úsporné siete sú pre podnik zvyčajne lacnejšie a ich kapacity zvládnu väčšinu požadovaných zadaní.

Generálny riaditeľ burzy Coinbase Brian Armstrong predikuje, že organizácie prenesú väčšinu pracovného zaťaženia na dostupné modely. Najpokročilejšie aplikácie s vysokými nákladmi ostanú vyhradené na zložité úlohy vyžadujúce maximálnu mieru logického uvažovania.  

PREČO JE TO DÔLEŽITÉ: Neriadené výdavky na výpočtový výkon narúšajú prevádzkovú a finančnú stabilitu technologických podnikov.

Zdroj: fastcompany.com foto: ChatGPT