ASUS Turbo Radeon AI Pro R9700 / Grafická karta nielen pre AI

Prívlastok AI naznačuje, že karta AMD Radeon AI Pro R9700 s 32 GB VRAM je primárne určená na vývoj a nasadenie lokálnej AI, či už pri behu, vývoji, trénovaní, alebo dotrénovaní modelov LLM. Samozrejme, dá sa využiť aj na grafiku, animáciu, 3D renderovanie a sklamaní nebudú ani hráči.

Karta využíva čip AMD Navi 48 s architektúrou AMD RDNA 4, má 4096 streamovacích procesorov a 128 AI akcelerátorov. Čip dosahuje výkon 95,7 TFLOPS na presnosť FP16 a 1531 TOPS na INT4. Samozrejmosť je podpora rozhrania PCIe Gen 5.

Tenká karta pre zostavy s viacerými GPU

Používateľov experimentujúcich so zostavami viacerých grafických kariet poteší, že táto grafická karta zaberá hrúbku len dvoch slotov, takže aj do bežnej PC skrine a základnej dosky sa dajú umiestniť minimálne dve. Samozrejme, potrebujete adekvátne dimenzovaný zdroj. Výkon, ktorý grafická karta dosiahne, závisí nielen od hardvéru, ale aj od účinnosti chladenia, ktoré je navrhnuté tak, že ventilátor nasáva vzduch zboku a vyfukuje vzadu mriežkami vedľa konektorov von zo skrine. Ventilátor má dve guľôčkové ložiská, čo významne prispieva k jeho spoľahlivosti. Tepelne vodivá podložka s fázovou premenou na grafickom čipe sa rozpustí a účinne tým vyplní medzery medzi GPU a chladiacim modulom, takže má vynikajúcu tepelnú vodivosť a lepší odvod tepla. Karta sa dá ľahko rozobrať a vyčistiť od prachu.

Na napájanie slúži 12 V konektor HPWR, ktorý je však umiestnený zboku na kratšej strane, čo je výhoda z hľadiska manažmentu káblov, hlavne ak máte zostavu s viacerými grafickými kartami. Výhodné je aj to, že konektor nie je prispájkovaný na plošný spoj, ale pripojený hrubými vodičmi, takže v prípade nejakého poškodenia alebo prepálenia kontaktov konektora sa dá ľahko vymeniť bez toho, aby bolo treba prácne spájkovať konektor z viacvrstvového plošného spoja. Výrobca odporúča zdroj s minimálnym výkonom 750 W.

Pomocou aplikácie GPU Tweak 3 môžete prepínať medzi štandardným, overclock, tichým a používateľským módom, pričom používateľský mód, v ktorom môžete nastaviť všetky parametre, je určený pre skúsených používateľov.

Skóre v benchmarkoch

Vyskúšal som aj syntetické bench­marky, skóre v teste Furmark ROG bolo 21 936 bodov (366 FPS pri rozlíšení 2560 × 1440 pixelov). Skóre dosiahnuté v bench­markovom teste 3D Mark vrátane porovnania s grafickou kartou RTX 5080 sú v tabuľke.

Test                                 AI Pro R9700       RTX 5080
3D Mark Speed Way      6 049                     9 326
Steel Nomad                   6 721                    9 082
Port Royal         1            5 740                    22 698

Treba si uvedomiť, že toto je karta pre profesionálne grafické stanice, ktorá má 32 GB VRAM, čo je hlavná výhoda, ale aj pri takomto výkone si veľmi dobre zahráte aj najnovšie „áčkové“ hry.

Zaujímalo ma aj porovnanie snímkovej frekvencie v teste zameranom na technológiu AMF FSR (FidelityFX Super Resolution). Snímky sa interne renderujú v nižšom rozlíšení a následne sa upscalujú na požadované vyššie rozlíšenie. Prispieva to k lepšej efektivite a vyššiemu výkonu. Prejavilo sa to aj vo výsledku tohto benchmarku. Na porovnanie uvádzam aj výsledky testu karty RTX 5080, ktorá využíva podobnú technológiu NVIDIA DLSS.

Beh lokálnych modelov AI

Vzhľadom na primárne určenie karty som sa pri testovaní zameral na beh lokálnych modelov LLM. Použil som osvedčenú plat­formu Ollama (ollama.com), ktorá využíva architektúru klient – server, pričom aj server beží lokálne na vašom počítači. Ollama v novej verzii vie pracovať aj s cloudovými modelmi AI, mňa však zaujímali lokálne bežiace modely. Použil som model Gemma 4 od Google Deep Mind. Najskôr som vyskúšal model gemma4:12B s 12 miliardami parametrov, ktorý má „len“ 9,6 GB. Pri jednoduchom zadaní v slovenčine: „Prečo je GPU vhodnejšie pre AI ako CPU?“ model 12 sekúnd premýšľal a potom generoval odpoveď v slovenčine. Z grafov v Správcovi úloh bolo zrejmé, že všetku záťaž na seba prevzala grafická karta.

Aby som viac využil kapacitu VRAM, nahral som model gemma4:31B s 31 miliardami parametrov, ktorý má 20 GB. Z pamäte GPU si ukrojil 26 GB. Fáza premýšľania trvala 24 sekúnd. Kvalita výstupu bola oveľa vyššia než pri menšom modeli s 9 miliardami parametrov. Rýchlosť generovania bola 24,12 tokenov za sekundu.

Knižnica PyTorch

Pri experimentovaní s AI, strojovým a hlbokým učením sa často používa open source knižnica PyTorch. Vytvorila ju spoločnosť Meta (Facebook) a v súčasnosti ju zastrešuje Linux Foundation. Knižnica je primárne optimalizovaná na akceleráciu výpočtov pomocou technológie NVIDIA Cuda, ale najnovšia verzia dokáže fungovať aj na grafických kartách AMD Radeon, kde využíva technológiu ROCm (Radeon Open Compute). Postup inštalácie knižnice PyTorch pre AMD je na stránkach AMD, podrobne som ho ukázal vo videu. PyTorch pre AMD vyžaduje Python verzie 3.12. Na pokusy s AI som nainštaloval plat­formu Anaconda, konkrétne zjednodušenú verziu Miniconda. V nej som vytvoril virtuálne pracovné prostredie s požadovanou verziou Pythonu. Príkazom pip som nainštaloval knižnicu ROCm a napokon aj PyTorch.

V interaktívnom prostredí Jupyter Lab som vyskúšal príklad na násobenie veľkých matíc s 8192 × 8192 prvkami. Na grafe záťaže GPU v Správcovi úloh sa zob­razil krátky impulz, takže aj táto úloha sa spracovala na grafickej karte. Napokon som vyskúšal komplexný príklad na rozpoznávanie objektov zosnímaných kamerou. Na túto úlohu som potreboval nainštalovať ďalšie knižnice, konkrétne Ultralytics a Open CV (Open Computer Vision) a knižnicu Ultralytics a model Yolo a Yolo Face. Rozpoznávanie obrazu bez problémov fungovalo a bolo akcelerované grafickou kartou. Na tento účel stačilo 30 % výkonu GPU a 2 GB VRAM.

Resumé

Platformy a aplikácie na prácu s modelmi neurónových sietí fungovali na tejto grafickej karte stabilne, pričom výkon bol porovnateľný s kartami NVIDIA. Hlavnou výhodou je 32 GB video RAM, ktorá umožňuje spúšťať aj rozsiahlejšie lokálne modely AI. Karta sa nedá zahanbiť ani pri renderovaní videí, 3D grafike a ani pri náročných hrách.

Cena: 2039 EUR

 

Zobrazit Galériu