Tachyum je pripravené na rok 2024, v ktorom očakáva veľký posun
Predstavitelia spoločnosti Tachyum® očakávajú, že v roku 2024 zúročia dynamiku nadobudnutú sériou úspechov v uplynulom roku a zároveň využijú cyklus obnovy polovodičov, ku ktorému vo svete práve dochádza. Firma smeruje k masovej výrobe, ktorá umožní revolúciu v dátových centrách.
Medzi hlavné priority spoločnosti v roku 2024 patria:
Spoločnosť Tachyum počas roku 2023 vynaložila veľké úsilie na to, aby zabezpečila, že v nasledujúcom roku bude stáť na prahu kľúčového úspechu. Pokroky v oblasti hardvéru a softvéru, technológii IP (Intellectual Property) komponentov a veľká objednávka na vybudovanie rozsiahleho systému boli dôležitými faktormi, na ktorých bude firma stavať v nadchádzajúcom roku.
V roku 2023 spoločnosť Tachyum dostala významnú objednávku od americkej spoločnosti na vybudovanie rozsiahleho systému postaveného na 5-nanometrových univerzálnych čipoch Prodigy. Ohlásený systém s výkonom 50 exaflopov za sekundu pri 64-bitových operáciách s pohyblivou rádovou čiarkou a 8 zettaflopov za sekundu pri tréningu AI pre veľké jazykové modely, si získal veľkú pozornosť ďalších záujemcov , ktorí chcú vybudovať systém podobného rozsahu pre svoje aplikácie a pracovné záťaže umelej inteligencie.
Spoločnosť sprístupnila svoje TPU® (Tachyum Processing Unit) IP ako licencovateľné jadro, čo umožňuje vývojárom plne využívať výhody umelej inteligencie trénovanej v dátových centrách pri tvorbe tzv. internetu vecí (IoT, Internet of Things) a Edge zariadení.
Podrobnosti o novom prístupe k navrhovaniu HPC/AI superpočítačových dátových centier boli zverejnené v rámci série bielych kníh s cieľom pripraviť vývojárov na to, čo môžu očakávať, keď bude čip Prodigy komerčne dostupný. Témy zahŕňali, ako používať 4-bitové formáty Tachyum AI (TAI) a 2-bitové efektívne formáty pre váhy (TAI2) vo veľkých jazykových modeloch (LMM); ako Prodigy prekonáva neefektívnosť hardvéru, ktorá spôsobuje, že náklady na generatívnu AI sú neúmerné a spotreba energie je príliš vysoká; a ako Prodigy umožňuje kvantizáciu s využitím FP8 (8-bitovej reprezentácie s pohyblivou desatinnou čiarkou) pre spracovanie modelov obrovských veľkostí.
Aby sme uviedli možnosti čipu Prodigy do perspektívy, 1,6 bilióna parametrov modelu Switch Transformer by vyžadovalo 52 GPU NVIDIA H200 80 GB v cene 41 789 USD za kus a sedem serverov Supermicro GPU za 25 000 USD, čo predstavuje spolu náklady vo výške 2 348 028 USD. Na rozdiel od toho, jeden socketový systém postavený na Prodigy s 2 TB DDR5 DRAM by mohol vyhovovať a prevádzkovať takéto veľké modely, a sprístupniť tak aplikácie generatívnej AI len za 23 000 USD, čo je 1/100 nákladov v tomto porovnaní.
Medzi pokroky v oblasti softvéru v uplynulom roku patria:
- Dokončenie vývoja softvérového balíka pre čip Prodigy, ktorý umožnil spustenie alfa testovania
- Pridanie kompilátora LLVM pre AI a podporu programovacieho jazyka Rust v systéme Linux
- Spustenie hypervízora Xen na softvérovom emulátore QEMU
- Spustenie nástroja na orchestráciu kontajnerov v prostredí HPC a hyperškálových dátových centier Kubernetes na emulačnom systéme univerzálneho procesora Prodigy
Hardvérové pokroky za rok 2023 zahŕňajú:
- Dokončenie testovania s vektorovým HPL (High-Performance LINPACK) s použitím 1kb vektorov na hardvérovom emulátore Prodigy FPGA
- Spustenie operačného systému FreeBSD na Prodigy FPGA
- Bezproblémové fungovanie nenatívnej (x86_64) aplikácie pod operačným systémom Linux, ktorá beží na FPGA emulačnom systéme čipu Prodigy
- Dokončenie integrácie platforiem BMC (Baseboard Management Controller) a UEFI (Unified Extensible Firmware Interface) do prototypu systému Prodigy FPGA
- Portovanie ďalších aplikácií pre testovanie širokej škály pracovných záťaží na prototype FPGA
Okrem toho bola druhá generácia čipu Tachyum Prodigy 2 vybraná v rámci programu Dôležitých projektov spoločného európskeho záujmu (IPCEI) za Slovensko. Európe tak poskytne exascale výkon pre vysokovýkonné výpočty a zettascale výkon pre umelú inteligenciu. Spoločnosť privítala vo svojej bratislavskej pobočke prezidentku Slovenskej republiky Zuzanu Čaputovú, ktorá mala možnosť sa osobne oboznámiť s aktuálnym stavom vývoja univerzálneho procesora Prodigy.
Ako univerzálny procesor ponúkajúci využiteľnosť pre všetky pracovné zaťaženia môžu servery dátových centier poháňané Prodigy plynule a dynamicky prepínať medzi výpočtovými doménami. Odstránením potreby drahého špecializovaného hardvéru pre UI a výrazným zvýšením využitia serverov Prodigy výrazne znižuje CAPEX a OPEX a zároveň poskytuje bezprecedentný výkon, spotrebu a ekonomiku dátového centra. Prodigy integruje 192 vysokovýkonných na mieru navrhnutých 64-bitových výpočtových jadier, čo mu umožňuje dosahovať až 4.5-násobný výkon v porovnaní s najvýkonnejšími x86 procesormi pre cloudové záťaže, a v porovnaní s najvýkonnejším GPU až trojnásobný výkon pre HPC a šesťnásobný výkon pre AI aplikácie.
“Spoločnosť Tachyum ukázala svoju odolnosť počas náročného roku 2023, keď sme na trhu zažili najhorší pokles v oblasti polovodičov za posledné roky a zvládli sme výzvy, ktorým sme čelili pri výmene IP komponentov od kľúčového dodávateľa,” povedal Dr. Radoslav Danilák, zakladateľ a CEO spoločnosti Tachyum. “Úspechy, ktoré sa nám podarilo dosiahnuť pri vylepšovaní nášho produktového plánu, nás priviedli do roku 2024 plného očakávaní, keď sa posunieme k masovej výrobe čipu Prodigy a naplneniu multimiliardového predajného plánu. Tešíme sa na splnenie nášho záväzku transformovať bežné dátové centrá na univerzálne výpočtové centrá v blízkej budúcnosti.”
Sledujte Tachyum
https://twitter.com/tachyum
https://www.linkedin.com/company/tachyum
https://www.facebook.com/Tachyum/
O spoločnosti Tachyum
Spoločnosť Tachyum so svojím vlajkovým produktom Prodigy, prvým univerzálnym procesorom na svete, transformuje ekonomiku pracovných záťaží v oblasti umelej inteligencie (AI), vysokovýkonných výpočtov (HPC) a verejných i súkromných dátových centier. Prodigy spája funkcie CPU, GPGPU a TPU do jediného procesora, aby poskytoval špičkový výkon pri najnižších nákladoch a spotrebe energie pre špeciálne aj univerzálne výpočty. Keďže emisie svetových dátových centier naďalej prispievajú k zmene klímy a podľa prognóz budú spotrebovávať 10 percent elektrickej energie na svete do roku 2030, procesor Prodigy s veľmi nízkou spotrebou energie je v pozícii pomôcť vyvážiť globálny dopyt po výpočtovom výkone pri nižšej environmentálnej záťaži. Tachyum nedávno prijala významnú objednávku od americkej spoločnosti na vybudovanie rozsiahleho systému, ktorý poskytne počítačový výkon viac ako 50 exaflopov, čo exponenciálne prevýši výpočtovú kapacitu najrýchlejších superpočítačov pre inferenciu alebo generatívnu AI, ktoré sú dnes dostupné kdekoľvek na svete. Po dokončení v roku 2025 bude systém postavený na čipoch Prodigy poskytovať 25-násobný multiplikátor v porovnaní so svetovo najrýchlejším konvenčným superpočítačom, ktorý bol postavený iba tento rok, a bude dosahovať 25 000-krát väčšiu kapacitu pre AI ako modely pre ChatGPT4. Spoločnosť Tachyum má pobočky v Spojených štátoch a na Slovensku. Pre viac informácií navštívte https://www.tachyum.com/.
