Výpočty v pamäti znižujú energetickú náročnosť AI

 

KĽÚČOVÉ ZISTENIA:

• Spoločnosti vytvorili čip vykonávajúci matematické operácie priamo v pamäťových moduloch.

• Technológia postavená na 22-nanometrovom procese eliminuje energeticky náročné presuny dát.

• Zariadenie využíva viacúrovňové pamäťové prvky na efektívne spracovanie vektorových operácií.

Spoločnosti SK Hynix a TetraMem úspešne dokončili spoločný vývoj v oblasti analógových výpočtov v pamäti. Ich spolupráca priniesla funkčný systém na čipe, ktorý je navrhnutý pre zvýšenie efektivity výpočtov umelej inteligencie. Technológia rieši problém nadmernej spotreby energie, ktorá vzniká pri neustálom presune veľkého množstva dát medzi procesorom a operačnou pamäťou.

Výsledky spoločného výskumného projektu boli publikované a zobrazené na obálke odborného periodika Advanced Intelligent Systems. Tento posun reaguje na situáciu, kde prenos dát pri veľkých modeloch spotrebúva viac energie ako samotné výpočty.

Nová platforma s označením MLX200 mení tradičnú architektúru tým, že vykonáva maticové operácie priamo na mieste uloženia dát. Tento prístup odstraňuje spomalenie systému spôsobené dátovými prenosmi a znižuje celkovú tvorbu tepla. Hardvérové riešenie integruje pamäťové polia typu RRAM na báze memristorov priamo so zmiešanými výpočtovými jednotkami.

Výroba prototypu prebehla v spolupráci so spoločnosťou TSMC s využitím 22-nanometrového výrobného procesu. Proces integrácie nevyžaduje zložité zmeny v štandardných postupoch CMOS, čo uľahčuje prípadnú masovú produkciu. Počiatočné testy vyrobených kremíkových vzoriek preukázali funkčnosť technológie a konzistentné vlastnosti pamäťových buniek.

Výskumníci zaznamenali operácie pri nízkom elektrickom napätí a prúde so silnými charakteristikami pre uchovanie dát. Hodnotiace vzorky čipu MLX200 by mali byť dostupné pre partnerov v druhej polovici roku 2026. Predchádzajúca generácia platformy s označením MX100 bola pritom založená na staršom 65-nanometrovom výrobnom procese.

Tieto systémy umožňujú implementáciu špecifických operácií, ktoré sú nevyhnutným stavebným prvkom pre moderné modely učenia. Praktické nasadenie technológie sa očakáva v koncových zariadeniach so zameraním na internet vecí a nositeľnú elektroniku.

Architektúra je vhodná na úlohy s nepretržitým snímaním prostredia, vrátane spracovania hlasu a zvukových signálov. Zníženie prevádzkových nákladov na elektrickú energiu a chladenie môže priniesť výhody aj pre prevádzkovateľov veľkých dátových centier. 

PREČO JE TO DÔLEŽITÉ: Výpočty priamo v pamäťových moduloch radikálne znižujú spotrebu energie a tvorbu tepla pri lokálnom behu algoritmov umelej inteligencie.

Zdroj: interestingengineering.com foto: ChatGPT