SAMSUNG_022024C Advertisement SAMSUNG_022024C Advertisement SAMSUNG_022024C Advertisement

GROQ: Nová generatívna AI vyhráva nad ChatGPT s veľkou prevahou

Výskum a vývoj
1

Spoločnosť Groq, nový konkurent ChatGPT, predstavila svoj model AI na spracovanie jazyka (Language Processing Unit – LPU). Táto technológia sa môže pochváliť rýchlosťou takmer 500 tokenov za sekundu. Stanovuje nové meradlo rýchlosti a efektívnosti digitálneho spracovania. LPU vyniká tým, že znižuje latenciu na minimum a ponúka doteraz nevídanú rýchlosť služieb.

Táto inovácia je odpoveďou spoločnosti Groq na rastúci dopyt po rýchlejších a efektívnejších spracovateľských jednotkách, ktoré dokážu zvládnuť komplexné potreby LLM bez toho, aby sa „zapotili“. Prvá verejná ukážka systému Groq ukázala pozoruhodné výsledky. Pri zadaní výzvy model vygeneruje odpoveď okamžite. Odpoveď je navyše vecná a obsahuje stovky slov. V porovnaní s ChatGPT od OpenAI vyhráva Groq s veľkou prevahou. 

LPU Groq je navrhnutý tak, aby prekonal obmedzenia starších technológií CPU a GPU. Tradičná architektúra spracovania často zaostáva, keď čelí veľkým výpočtovým nárokom LLM. Groq používa pre LLM novú architektúru TPS (Tensor Streaming Processor). Vďaka prísľubu rýchleho odvodzovania a zníženej spotreby energie sú TPS a LPU pripravené zmeniť spôsob, ako pristupujeme k spracovaniu údajov.

LPU je vytvorený na deterministické výpočty umelej inteligencie. Odchyľuje sa od tradičného modelu SIMD. Tento posun zvyšuje výkon a znižuje spotrebu energie. Vďaka tomu je LPU ekologickejšou voľbou do budúcnosti. LPU vynikajú energetickou účinnosťou. Prekonávajú GPU tým, že sa zameriavajú na zníženie réžie a maximálne využitie každého wattu. Tento prístup je prospešný pre našu planétu.

Zároveň ponúka nákladovo efektívne riešenie pre podniky aj vývojárov. Vďaka LPU Groq sa široká škála aplikácií založených na LLM dočká výrazného zlepšenia. LPU ponúka robustnú alternatívu k veľmi žiadaným grafickým procesorom NVIDIA. Zlepšuje reakcie chatbotov, vytvára personalizovaný obsah a mnoho ďalšieho. 

Zdroj: cryptopolitan.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

1 komentár

nejde len o rýchlosť reakcia na: GROQ: nová generatívna AI vyhráva nad ChatGPT s velkou prevahou

27.2.2024 16:02
V tomto období má AI jeden zásadný problém - nakoľko sa dá na ňu spoľahnúť.
Moje skúsenosti hovoria, že v niektorých oblastiach, v ktorých pracujem, má vedomosti na úrovni 7-8 ročného dieťaťa.
Potom množstvo tokenov za sekundu mi môže byť ukradnutých.
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať