NVIDIA NIM Blueprints – plány ktoré fungujú aj na komerčných kartách NVIDIA RTX

Technológiu NVIDIA NIM a plány Blueprints pre firemné nasadenie sme predstavili v samostatnom článku. Mnohé s týchto blueprints si vyžaduje požadovaný typ a počet kariet profesionálnej triedy, čiže NVIDIA T4, A10, L4, či L40S. V tomto článku uvádzame prehľad blueprints, ktoré je možné spustiť aj na kartách NVIDIA RTX, čiže napríklad na vývojárskych počítačoch, či pracovných staniciach s týmito kartami.

NVIDIA NIM (Nvidia Inference Microservices) je prostredie založené na mikroslužbách. Prináša revolúciu do spôsobu nasadzovania generatívnej AI. Môžu to byť LLM modely, ktoré môžete jednoducho integrovať do vašich aplikácií. NVIDIA NIM Agent Blueprints je katalóg predtrénovaných, prispôsobiteľných plánov a postupov AI, ktoré firemným vývojárom poskytnú kompletný balík softvéru na vytváranie a nasadzovanie generatívnych aplikácií umelej inteligencie pre rôzne scenáre použitia, napríklad avatary zákazníckeho servisu, generovanie s rozšíreným vyhľadávaním, virtuálne skríningové testovanie liekov a mnohé ďalšie. Každý plán zahŕňa rôzne komponenty vrátane mikroslužieb NVIDIA NIM a partnerských mikroslužieb, jedného alebo viacerých agentov umelej inteligencie, vzorového kódu a podrobných pokynov na prispôsobenie.

V našom prehľade uvádzame prehľad aktuálne dostupných blueprints fungijúcich na kartách NVIDIA RTX. Pre niektoré plány potrebujete 24 GB VRAM, samozrejme čím viac tým lepšie. Praktické minimum je 16 GB VRAM, pretože je dôležité, aby sa AI modely mohli celé zaviesť do pamäti grafickej karty.  Plány sú distribuované cez GitHub

3D Guided Generative AI - plán umožňuje väčšiu kontrolu nad generovaním obrázkov tým, že rozmiestňuje obsah v Blenderi, aby riadil rozloženie obrázka. Používatelia môžu rýchlo meniť prvky v 3D scéne pomocou generatívnej AI a perspektíva výstupného obrázka sa mení jednoduchou zmenou uhla kamery. Plán vytvára kvalitné výstupy využitím najmodernejšieho balíka modelov FLUX.1-dev od spoločnosti Black Forest Labs. ComfyUI poskytuje flexibilné a pohodlné používateľské rozhranie. Modely sú kvantizované a akcelerované na grafických procesoroch NVIDIA, čo zabezpečuje optimálny výkon.

Single Cell Analysis – umožňuje skúmať, pochopiť a interpretovať dáta z jednotlivých buniek v priebehu niekoľkých minút, nie dní, vďaka využitiu RAPIDS-singlecell, poháňaného technológiou NVIDIA RAPIDS. Vedci môžu pri analýze jednotlivých buniek jednoducho testovať analýzu a vizualizáciu dát takmer v reálnom čase a dosiahnuť až 938-násobne rýchlejšie zrýchlenie oproti CPU pomocou RAPIDS-singlecell, vyvinutého spoločnosťou scverse. Tento plán je určený pre vedcov, ktorí rozumejú analýze jednotlivých buniek a chcú využiť RAPIDS pre dáta z jednotlivých buniek.

Genomics Analysis - GPU zásadneurýchľuje základné pracovné postupy genomickej analýzy, ako napríklad zárodočnú líniu, pomocou NVIDIA Parabricks. Pri analýze zárodočnej línie si bioinformatici môžu vyskúšať celý pracovný postup analýzy sekvenovania exómu na krátkych čítaniach v priebehu niekoľkých minút

Synthetic Manipulation Motion Generation for Robotics generovanie exponenciálne veľkého množstva syntetických trajektórií pohybu pre manipuláciu s robotmi

Build an Enterprise RAG pipeline - plán poskytuje vývojárom základný východiskový bod pre budovanie škálovateľných a prispôsobiteľných vyhľadávacích kanálov, ktoré poskytujú vysokú presnosť aj priepustnosť. Umožňuje vytváranie RAG aplikácií, ktoré poskytujú kontextovo uvedomelé odpovede prepojením LLM s rozsiahlymi multimodálnymi podnikovými dátami – vrátane textu, tabuliek, grafov a infografiky z miliónov PDF súborov. Vďaka 15-krát rýchlejšej extrakcii multimodálnych PDF dát a o 50 % menšiemu počtu nesprávnych odpovedí môžu podniky odomknúť užitočné informácie z dát a zvýšiť produktivitu vo veľkom meradle. Tento plán sa dá použiť tak, ako je, v kombinácii s inými plánmi NVIDIA, ako je napríklad plán Digital Human alebo plán AI Assistant pre zákaznícky servis, alebo integrovať s agentom na podporu pokročilejších prípadov použitia.

Build a Video Search and Summarization (VSS) Agent  umožňuje spracovať veľké objemy live alebo archivovaných videí a extrahovať prehľady na zhrnutie a interaktívne otázky a odpovede

PDF to Podcast - plán na vytvorenie generatívnej aplikácie s umelou inteligenciou, ktorá transformuje PDF dáta – ako sú školiace dokumenty, technický výskum alebo dokumentácia – na personalizovaný zvukový obsah. Plán využíva (LLM), prevod textu na reč a mikroslužby NVIDIA NIM na nasadenie prispôsobeného riešenia prispôsobeného proprietárnym dátam vašej organizácie. Tento prístup zostáva v súlade s požiadavkami na ochranu osobných údajov počas celého procesu. Tento plán je flexibilný a prispôsobiteľný, takže môžete pridať ďalšie funkcie, ktoré vyhovujú potrebám vašich používateľov, či už ide o špecifický branding, analytiku, preklad v reálnom čase alebo digitálne ľudské rozhranie na prehĺbenie zapojenia.

Structured Report Generation - Tradičné systémy RAG sú efektívne pri odpovedaní na individuálne otázky, ale majú obmedzené využitie pre organizácie, ktoré vyžadujú komplexnejšie poznatky a obsah pre rozhodovanie. Tento plán generovania štruktúrovaných reportov s LangGraph rieši túto potrebu využitím mikroslužieb NVIDIA NIM na vytváranie štruktúrovaných, na rozhodovanie orientovaných reportov založených na témach a štruktúre reportov zadaných používateľom. Na rozdiel od iných agentov generovania štruktúrovaných reportov tento plán ukazuje, ako mikroslužby NVIDIA NIM s LangChain zlepšujú škálovateľnosť zdrojov údajov, presnosť a priepustnosť. Vývojári môžu použiť tento flexibilný referenčný plán na aktualizáciu existujúceho riešenia LangChain s NVIDIA AI, vytvorenie nového agenta generovania štruktúrovaných reportov alebo jeho použitie v inom prípade použitia, ktorý zahŕňa LangChain a NVIDIA NIM.

Build an AI Virtual Assistant - Vytvorte inteligentných virtuálnych asistentov pre zákaznícky servis v každom odvetví

Prehľad všetkých, čiže aj pripravovaných blueprints spustiteľných na kartách NVIDIA RTX nájdete na tejto stránke.

Názorné príklady využitia AI mikroslužieb vo vami vyvíjaných aplikáciách si môžete pozrieť v našom článku https://www.nextech.sk/a/NVIDIA-NIM--priklady-vyuzitia-AI-mikrosluzieb-vo-vami-vyvijanych-aplikaciach ku ktorému je aj video s príkladmi