NVIDIA DGX Spark / Miniatúrny superpočítač pre AI
Tento osobný superpočítač bol oznámený na minuloročnom veľtrhu CES 2025, vtedy ešte pod názvom Projekt DIGITS, s tým, že jeho elektronickým srdcom bude čip NVIDIA GB10 Grace Blackwell disponujúci jedným petaflops výpočtového výkonu pre AI. Neskôr bol projekt premenovaný na DGX Spark.
Vďaka spojeniu špičkových grafických a procesorových technológií NVIDIA je Spark ideálna voľba pre tých, ktorí potrebujú robustné riešenie na spracovanie veľkých objemov dát či vývoj a testovanie zložitých modelov strojového učenia. Hoci rozmermi 150 × 150 × 50,5 mm pripomína kompaktný minipočítač, výkonom a technologickou výbavou konkuruje oveľa väčším a drahším riešeniam.
Na testovanie som mal k dispozícii model Founder’s Edition priamo od spoločnosti NVIDIA. Má kovové puzdro v zlatej farbe so 128 GB RAM a 4 TB diskom SSD a je zdobený zlatým kovovým puzdrom. Miniatúrne pracovné stanice ponúkajú alebo budú ponúkať aj ďalší výrobcovia – Acer, ASUS, Dell či MSI.
Na spodnej strane skrinky so skvelým dizajnom je (pri orientácii na šírku) magneticky prichytený plastový kryt, ktorý umožňuje prístup ku skrutkám. Plastový je preto, lebo pod ním sú antény pre Wi-Fi a bluetooth. Orientácia loga naznačuje, že zariadenie by sa malo používať na výšku, ale nie sú tu žiadne nožičky. Na portáloch venovaných 3D tlači sa už objavilo niekoľko modelov stojanov.
Na beh operačného systému, čo je v tomto prípade UBUNTU Linux, a linuxových aplikácií sa využíva procesor s architektúrou ARM, ktorý má 10 výkonných jadier Cortex-X925 taktovaných na 4 GHz a 10 efektívnych jadier Cortex-A725 na 2,8 GHz. Výrobca udáva šírku pásma pamäte 273 GB/s. Čipová súprava grafického procesora GB10 využíva pamäte LPDDR5, ktoré sú pomalšie ako VRAM v dedikovaných grafických procesoroch. Unikátna architektúra GB10 Grace Blackwell Superchip spája ARM CPU a výkonnú GPU Blackwell so 128 GB jednotnej pamäte, zdieľanej medzi CPU a GPU bez tradičného rozdelenia RAM a VRAM. To umožňuje efektívnejšiu prácu s veľkými modelmi AI a eliminuje úzke dátové hrdlá, ktoré trápia klasické AI PC zostavy. Vývojári môžu vykonávať inferenciu na modeloch AI až s 200 miliardami parametrov a lokálne dolaďovať modely až so 70 miliardami parametrov. DGX Spark umožňuje aj vytváranie agentov umelej inteligencie a lokálne spúšťanie pokročilých softvérových balíkov. Rýchle sieťové prepojenie dáva možnosť spájať dva systémy DGX Spark a pracovať s ešte väčšími modelmi, približne až do 405 miliárd parametrov. GPU disponuje AI výkonom 1000 TOPS (trillion operations per second) alebo podľa inej metriky výkonom 1 PFLOPS (petaflops) pri presnosti FP4 (FP – Float Point).
Medzi ďalšie kľúčové parametre patrí podpora najnovších štandardov konektivity vrátane siete NVIDIA ConnectX-7 200 Gb/s a technológie NVIDIA NVLink-C2C, ktorá poskytuje 5-násobnú šírku pásma oproti PCIe piatej generácie. Minipočítač má dva porty 10GbE LAN, štyri porty USB 3.2, HDMI 2.1 a DisplayPort 1.4 na pripojenie externých monitorov s vysokým rozlíšením. Samozrejmosť je podpora Wi-Fi 7. Celý systém je optimalizovaný na nízku spotrebu energie, pričom zachováva vysoký výkon a stabilitu aj pri dlhodobých záťažiach. Príkon zariadenia je 240 W. V balení je aj napájací zdroj schopný takýto príkon dodať. Zdroj sa pripája cez konektor USB-C.
DGX Spark môžete konfigurovať a používať priamo alebo cez sieť. Priamo tak, že ešte pred prvým zapnutím pripojíte klávesnicu, myš a monitor, vtedy ho používate ako desktopový systém Linux. NVIDIA síce systém označuje ako DGX OS, ale je to vlastne Ubuntu Linux 24.04 s predinštalovaným softvérom a ovládačmi. Ak DGX Spark zapnete bez pripojených periférií, spustí sa v sieťovom režime. Vtedy k nemu môžete pristupovať ako k serveru, pričom si na svoj PC nainštalujete klient NVIDIA Sync. Na návode je nálepka s SSID, heslom a URL adresou na vzdialené pripojenie a nastavenie v režime bez pripojenia. Ja som Spark testoval najskôr priamo a následne z notebooku cez sieť. Na lokálnom PC si môžete otvoriť terminál, prostredie JupyterLab, ktoré beží na vzdialenom DGX, alebo VS Code vo vzdialenom režime. Takisto môžete pristupovať k prostrediu Ollama na spúšťanie lokálnych modelov LLM, ktoré beží na Sparku.
Po úvodnej konfigurácii, ktorá je identická s konfiguráciou Ubuntu Linux a spočíva v pripojení k sieti, definovaní používateľského mena a hesla a automatickej aktualizácii, sa zobrazí lokálna stránka DGX Spark Playbooks s ponukou rôznych tutoriálov a príkladov na rýchle zorientovanie v systéme a jeho možnostiach. Z príkladov na trénovanie a jemné ladenie jazykových modelov, generovanie obrázkov, spúšťanie lokálnych modelov a agentov je na prvý pohľad jasné, že NVIDIA DGX Spark je AI vývojové laboratórium čiže zariadenie primárne určené na experimentovanie a štúdium AI. DGX Dashboard ukazuje aktuálnu záťaž GPU a spotrebu pamäte. Z tohto panela môžete spustiť aj vývojové prostredie Jupyter Lab. Na zariadení je nahratých množstvo pracovných hárkov tohto prostredia, takzvaných playbookov s rôznymi interaktívnymi príkladmi.
Vďaka Ubuntu Linuxu je DGX Spark úplne kompatibilný s populárnymi knižnicami a frameworkmi pre umelú inteligenciu, ako sú TensorFlow, PyTorch, RAPIDS alebo CUDA. Tým sa otvárajú dvere širokej škále vývojárov a výskumníkov, ktorí chcú využiť najnovšie nástroje bez obmedzení. Predinštalovaný je softvérový balík NVIDIA AI vrátane modelov, knižníc a mikroslužieb NVIDIA NIM a podpory Docker kontajnerov, aby vývojári mohli začať pracovať na projektoch AI ihneď po vybalení. Môžu napríklad prispôsobovať modely FLUX.1 od Black Forest Labs na spresnenie generovania obrázkov, vytvárať systémy agentov na vyhľadávanie a sumarizáciu obrazu pomocou modelu NVIDIA Cosmos Reason alebo vytvárať AI chatboty na báze modelu Qwen3, ktorý je optimalizovaný pre DGX Spark.
Určite vás bude zaujímať porovnanie Sparku s najvýkonnejšou „hernou“ kartou od spoločnosti NVIDIA, ktorou je v súčasnosti GeForce RTX 5090. Táto karta je oveľa výkonnejšia. GPU v Sparku sa dá výkonovo prirovnať k RTX 5070, obidve majú 6144 jadier CUDA. Má to však jeden háčik. RTX 5090 má „len“ 32 GB VRAM, čo je pre AI veľmi limitujúce, pretože na čo najrýchlejšie trénovanie a hlavne beh modelov LLM je dôležité, aby sa celý model zmestil do VRAM. Napríklad lokálny model GPT-OSS:120B vyžaduje na svoj beh 65 GB VRAM. Pripomínam, že NVIDIA DGX Spark disponuje 128 GB pamäte, ku ktorej má GPU priamy prístup.
NVIDIA DGX Spark predstavuje atraktívnu alternatívu k tradičným serverovým riešeniam a cloudovým službám. Jeho hlavnými výhodami sú vysoký výpočtový výkon v kompaktnom tele, široká kompatibilita s modernými nástrojmi pre AI a dátovú vedu, nízka energetická náročnosť a jednoduchá rozšíriteľnosť. Vzhľadom na prijateľnú cenu a široké možnosti využitia je NVIDIA DGX Spark vhodná voľba pre všetkých, ktorí hľadajú spoľahlivý a výkonný minipočítač pre AI, na dátové analýzy alebo vedecké výpočty.
- Cena: 5029 EUR
- Distribútor: ASBIS SK
