Žrút energie temná strana AI

Umelá inteligencia pretvára svet – od generovania textov, obrázkov, kódu a analýzy dát až po automatizované zákaznícke služby. Za týmto technologickým boomom sa však skrýva čoraz diskutovanejšia téma – obrovská spotreba energie, ktorú technológie AI vyžadujú. Rovnako ako kedysi ťažba kryptomien aj tréning a prevádzka veľkých jazykových modelov či generatívnych nástrojov má výrazný ekologický odtlačok. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}}  Odhad spotreby Modely AI sa trénujú a bežia na výkonných grafických procesoroch. V dátových centrách zameraných na trénovanie a prevádzkovanie AI sú tisíce či desaťtisíce výkonných grafických kariet. Na tréning modelov LLM sa využívajú GPU typu NVIDIA A100, NVIDIA H100 Tensor Core GPU a ďalšie grafické karty optimalizované na tréning modelov AI. Karta NVIDIA A100 80GB má spotrebu 400 W, výkonnejšia karta H100 80 GB má príkon 700 W. Spoločnosť OpenAI nezverejnila detaily o tréningu svojich modelov, nepoznáme teda presný počet grafických kariet použi ...