NVIDIA NIM Agent Blueprints – plány a postupy na nasadzovanie generatívnej AI
NVIDIA NIM (Nvidia Inference Microservices) je prostredie založené na mikroslužbách. Prináša revolúciu do spôsobu nasadzovania generatívnej AI. Môžu to byť LLM modely, ktoré môžete jednoducho integrovať do vašich aplikácií. NVIDIA NIM Agent Blueprints je katalóg predtrénovaných, prispôsobiteľných plánov a postupov AI, ktoré firemným vývojárom poskytnú kompletný balík softvéru na vytváranie a nasadzovanie generatívnych aplikácií umelej inteligencie pre rôzne scenáre použitia, napríklad avatary zákazníckeho servisu, generovanie s rozšíreným vyhľadávaním, virtuálne skríningové testovanie liekov a mnohé ďalšie.
Blueprints sú v podstate referenčnými aplikáciami navrhnutými pre typické prípady použitia generatívnej AI. Tieto referenčné aplikácie je možné nasatiť buď v cloude, alebo lokálne na serveroch vo firemných dátových centrách, samozrejme nutnou podmienkou je, aby servery disponovali dostatočným výkonom NVIDIA kariet. Väčšina Blueprints plánov sú k dispzícii na stiahnutie vo forme docker kontejnerov, ktoré obsahujú všetko potrebné pre beh aplikácie. Výhodou docker kontejnerov je jednoduché nasadenie na ľubovoľnú platformu, či už Linux, Windows Server alebo Windows klienta. Obvyklý postup nasadenia je stiahnuť docker kontejner na testovací server vybavený kartami NVIDIA, následne aplikáciu prispôsobiť konkrétnym podmienkam vo vašej firme, veľmi dôkladne otestovať a potom nasadiť do ostrého operačného prostredia. Samozrejme testovací aj produkčný server musia mať požadovaný typ a počet kariet profesionálnej triedy, čiže NVIDIA T4, A10, L4, či L40S. Prehľad blueprints, ktoré je možné spustiť na kartách NVIDIA RTX bude v samostatnom článku.
Postup nasadenia NVIDIA NIM do lokálneho prostredia na vývojársky počítač je podrobne popísaný v článku NVIDIA NIM: príklady využitia AI mikroslužieb vo vami vyvíjaných aplikáciách
Každý plán zahŕňa rôzne komponenty vrátane mikroslužieb NVIDIA NIM a partnerských mikroslužieb, jedného alebo viacerých agentov umelej inteligencie, vzorového kódu podrobných pokynov na prispôsobenie a dokonca aj Helm diagramu pre nasadenie. Helm je manažér balíčkov pre kubernetes. Helm používa formát balenia nazývaný charts. Chart je kolekcia súborov, ktoré opisujú súvisiacu sadu zdrojov Kubernetes. Helm grafy sú kľúčové pri správe aplikácií Kubernetes a výrazne zefektívňujú proces nasadzovania riešení AI v cloudových alebo lokálnych infraštruktúrach. Helmov grafy sú kľúčové pri správe aplikácií Kubernetes a výrazne zefektívňujú proces nasadzovania riešení AI v cloudových alebo lokálnych infraštruktúrach.
Plány agentov NIM poskytujú štruktúrovaný a riadený prístup k implementácii technológií generatívnej AI. Zjednodušujú zložité procesy vývoja a umožňujú vývojárom viac sa sústrediť na kreativitu a inžinierstvo, než aby sa zaoberali technickými zložitosťami. Každý plán je prispôsobiteľný. podľa špecifických obchodných potrieb. Plány navrhnuté tak, aby sa dali ľahko nasadiť v rôznych infraštruktúrach – či už v tradičnom dátovom centre alebo v modernom cloudovom prostredí. Táto úroveň prispôsobivosti zabezpečuje, že tieto plány môžu bez námahy prijať startupy s obmedzenými zdrojmi aj zavedené podniky so zložitým IT prostredím.
Firemní vývojári môžu upravovať NIM Agent Blueprints pre svoj scenár nasadenia pomocou svojich obchodných údajov a prevádzkovať vlastné generatívne aplikácie umelej inteligencie v dátových centrách a cloudoch. S NIM Agent Blueprints môžu firmy neustále zdokonaľovať svoje AI aplikácie na základe spätnej väzby od používateľov, čím de facto vytvárajú akceleračnú špirálu AI riadenú dátami.
Aktuálne Blueprints pre firmy obsahujú workflows:
Build Digital Twins for AI Factory Design and Operations - návrh test a optimalizácia novej generácie inteligentných výrobných dátových centier pomocou digitálnych dvojčiat.
Build an AI Agent for Research and Reporting vytváranie AI agentov, ktorí uvažujú, plánujú, reflektujú a zdokonaľujú svoje úsilie, aby vytvárali kvalitné výskumné správy na základe vami zvolených zdrojových materiálov. AI výskumný agent informovaný o zdrojoch údajov dokáže syntetizovať hodiny výskumu za pár minút. Pomocou AI-Q agenti sumarizujú veľké súbory údajov, generujú tokeny 5-krát rýchlejšie a prijímajú dáta v rozsahu petabajtov 15-krát rýchlejšie s lepšou sémantickou presnosťou.
AI Weather Analytics with Earth-2 workflow umožňuje vyvinúť aplikáciu na analýzu a predpoveď počasia s využitím umelej inteligencie, ktorá vizualizuje viacvrstvové geopriestorové dáta.
Synthetic Manipulation Motion Generation for Robotics generovanie exponenciálne veľkého množstva syntetických trajektórií pohybu pre manipuláciu s robotmi
Test Multi-Robot Fleets for Industrial Automation umožňuje simulovať, testovať a optimalizovať fyzickú flotilu AI robotov vo veľkom meradle v priemyselných digitálnych dvojičkách pred nasadením v reálnom svete. Workflow umožňuje konfigurovať autonómne mobilné roboty (AMR) a simulovať ich pohyby v skladovom prostredí.
Build an Enterprise RAG pipeline prepája AI aplikácie s multimodálnymi podnikovými dátami pomocou škálovateľného kanála RAG (Retrieval Augmented Generation), ktorý je postavený na výkonných mikroslužbách NIM, s cieľom dosiahnuť rýchlejšiu extrakciu PDF dát a presnejšie vyhľadávanie informácií. Plán umožňuje firmám získať presné informácie z obrovských objemov údajov obsiahnutých v súboroch PDF, čím sa stáva výkonným nástrojom pre rozhodovanie na základe údajov.
Build A Generative Protein Binder Design Pipeline plán ukazuje, ako generatívna umelá inteligencia a zrýchlené mikroslužby NIM môžu navrhovať viazače proteínov inteligentnejšie a rýchlejšie.
Build a Digital Twin for Interactive Fluid Simulation tento plán NVIDIA Omniverse demonštruje, ako môžu dodávatelia komerčného softvéru vytvárať interaktívne digitálne dvojčatá
Build a Video Search and Summarization (VSS) Agent umožňuje spracovať veľké objemy live alebo archivovaných videí a extrahovať prehľady na zhrnutie a interaktívne otázky a odpovede
3D Conditioning for Precise Visual Generative AI vytváranie vysokokvalitné kompozície pomocou vykresľovania v reálnom čase a generatívneho výstupu umelej inteligencie
Build a Digital Human workflow „digitálneho humanoida“ pre zákaznícky servis. Plán zahŕňa použitie digitálnych AI avatarov na zlepšenie skúseností so zákazníckym servisom. Firmy môžu nasadiť vysoko interaktívne, realistické avatary ako pútavejšie rozhranie zákazníckeho servisu.
Build A Generative Virtual Screening Pipeline tento plán ukazuje, ako generatívna AI a zrýchlené mikroslužby NIM môžu navrhovať optimalizované malé molekuly inteligentnejšie a rýchlejšie. Plán sa zameriava na „preosievanie“ a optimalizáciu knižnice malých molekúl s cieľom presne určiť chemické štruktúry, ktoré sa môžu viazať na cieľový proteín. Tento plán môže značne zefektívniť spôsob, akým farmaceutické spoločnosti pristupujú k objavovaniu liekov.
Na stránke https://build.nvidia.com/blueprints sekcii Developer Examples sú interaktívne návody a vzorové príklady pre vývoj umelej inteligencie
NIM je rozsiahly partnerský ekosystém pripravený pomôcť podnikom prispôsobiť modely s otvoreným zdrojovým kódom, vytvoriť aplikácie umelej inteligencie na mieru a bezproblémovo ich nasadiť v akomkoľvek cloude, lokálne alebo na okraji siete. Globálni systémoví integrátori a poskytovatelia technologických riešení ako sú Accenture, Deloitte, SoftServe a World Wide Technology (WWT) prinášajú plány NVIDIA NIM Agent Blueprints firmám na celom svete. Spoločnosti Cisco, Dell Technologies, Hewlett Packard Enterprise a Lenovo ponúkajú full-stack infraštruktúru a riešenia akcelerované technológiou NVIDIA na urýchlenie nasadenia plánov NIM Agent Blueprints.
Názorné príklady využitia AI mikroslužieb vo vami vyvíjaných aplikáciách si môžete pozrieť v našom článku https://www.nextech.sk/a/NVIDIA-NIM--priklady-vyuzitia-AI-mikrosluzieb-vo-vami-vyvijanych-aplikaciach ku ktorému je aj video s príkladmi
Zobrazit Galériu
