Firma dala pracovníkom voľnú ruku v používaní AI. O mesiac jej prišiel účet na 500 miliónov USD

 

KĽÚČOVÉ ZISTENIA:

• Neobmedzený prístup stál firmu 500 miliónov USD.

• Finančný účet narástol v priebehu jediného mesiaca.

• Chybná stratégia urýchlila prechod na interné IT platformy.

Integrácia jazykových modelov do firemných sietí prináša okrem funkčných výhod aj skryté finančné riziká. Správa novinárov z portálu Axios poukázala na prípad nemenovanej korporácie, ktorá zamestnancom poskytla neobmedzený prístup k nástroju Claude. Absencia základných výdavkových limitov spôsobila spoločnosti konečný účet za jediný mesiac vo výške 500 miliónov USD.

Poskytovatelia umelej inteligencie uplatňujú licencie s presne určenými limitmi pre spracovanie úloh. Každé zhrnutie dokumentu, vygenerovanie softvérového kódu alebo jednoduchá otázka spotrebúva jednotky známe ako tokeny. Akonáhle používateľ presiahne základný rozsah licencie, dodávateľ začne účtovať poplatky za každú dodatočnú požiadavku.

Zamestnanci danej firmy presmerovali veľké pracovné toky do systému bez uplatnenia akýchkoľvek obmedzení od vedenia. Tendencia generovať výstupy bez ohľadu na pridanú hodnotu dostala v priemysle samostatný názov tokenmaxxing.  

Nečakaný výdavok vyvolal diskusiu o miere prijímania umelej inteligencie v komerčnej sfére. Výkonní riaditelia aktívne rušia zmluvy na využívanie externých modelov a prechádzajú na uzatvorené podnikové riešenia. Vysoké náklady na spotrebu výpočtovej sily menia aj správanie samotných používateľov v zamestnaní.

Spoločnosť Amazon deaktivovala svoj program, ktorý hodnotil pracovníkov za časté využívanie asistenčných technológií. Používatelia zadávali do aplikácií zbytočné dopyty výhradne z dôvodu zlepšenia osobného bodového skóre. Vývoj na trhu ukazuje, že automatizácia postupne presúva výdavky smerom k údržbe vlastných serverov.

Predstava ponechania výpočtových modelov bez softvérových bariér je podľa zistení analytikov finančne neudržateľná. Súčasná vlna adaptácie tak prechádza fázou cielenej regulácie licencií na úrovni radových zamestnancov. Odborníci predpokladajú, že podobné incidenty podnietia vznik nových nástrojov na automatickú kontrolu prečerpaných dát.

Dodávatelia technológií začnú aktívne upozorňovať klientov na neštandardné výkyvy v dennom toku požiadaviek. Správne nastavenie interných pravidiel nakoniec umožní firmám bezpečne pracovať s modelmi bez rizika finančných strát.

PREČO JE TO DÔLEŽITÉ: Prevádzka softvérových technológií bez regulácie spotreby môže kriticky ohroziť finančnú stabilitu podniku a investície.

Zdroj: tech.supercarblondie.com foto: ChatGPT