Vývojári spájajú viacero agentov AI, aby vytvorili „autonómnejšiu“ umelú inteligenciu
Viacerí vývojári sa pokúšajú vytvoriť „autonómny“ systém spojením viacerých inštancií veľkého jazykového modelu (LLM) GPT spoločnosti OpenAI, ktorý môže robiť množstvo vecí sám, napríklad vykonávať sériu úloh bez zásahu, zapisovať, ladiť a vyvíjať svoj vlastný kód a kriticky zhodnotiť a opravovať vlastné chyby. Zatiaľ čo ChatGPT možno vyzvať, aby vytvoril kód pre aplikáciu, čo môže v súčasnosti urobiť každý, kto má prístup k verejnej verzii systému OpenAI, tieto „autonómne“ systémy by potenciálne mohli prinútiť viacero „agentov“ AI spolupracovať na vývoji webovej stránky, vytvoriť newsletter, zostaviť online stránky ako odpoveď na požiadavku používateľa a vykonať ďalšie úlohy pozostávajúce z viacerých krokov a iteračného procesu.
Príkladom je aplikácia Auto-GPT, ktorú vytvoril herný vývojár Toran Bruce Richards s prezývkou Significant Gravitas. Auto-GPT je experimentálna open source aplikácia, ktorá predvádza možnosti jazykového modelu GPT-4. Ako jeden z prvých príkladov úplne autonómneho fungovania GPT-4 posúva hranice toho, čo možno robiť s umelou inteligenciou. Podľa autorovej stránky na GitHube program pristupuje na internet na vyhľadávanie a zhromažďovanie informácií, používa GPT-4 na generovanie textu a kódu a GPT-3.5 na ukladanie a zhrnutie súborov.
Video demonštrujúce Auto-GPT ukazuje vývojára, ktorý mu dáva úlohy: zlepšiť kus kódu, otestovať ho a zapísať jeho výstupy do súboru. Program vytvorí zoznam úloh, ktoré má urobiť – k svojim úlohám pridá čítanie kódu a vypnutie po zapísaní výstupov – a vykoná ich jednu po druhej. Ďalšie video, ktoré zverejnil Richards, ukazuje automatické „googlovanie“ GPT, vyhľadávanie novinových článkov, aby sa používateľ dozvedel viac o téme a mohol začať podnikať.
Program požiada používateľa o povolenie prejsť na ďalší krok počas googlenia, stránka Auto-GPT na GitHube varuje pred použitím „nepretržitého režimu“, pretože „je potenciálne nebezpečný a môže spôsobiť, že vaša AI bude bežať večne alebo vykonávať činnosti, ktoré by ste zvyčajne nepovolili“. Auto-GPT nie je jediné úsilie v tomto smere. Aj vývojár Yohei Nakajima vytvoril „úlohovo riadeného autonómneho agenta“, ktorý využíva GPT-4, vektorovú databázu s názvom Pinecone, a rámec na vývoj aplikácií založených na LLM s názvom LangChain.
„Náš systém je schopný vykonať úlohy, generovať nové úlohy na základe dokončených výsledkov a uprednostňovať úlohy v reálnom čase,“ napísal Nakajima v blogovom príspevku. Používateľ poskytne aplikácii cieľ a úlohu a v programe je niekoľko agentov vrátane agenta na vykonávanie úloh, agenta na vytváranie úloh a agenta priority úloh, ktorí vykonajú úlohy, odošlú výsledky a prehodnotia a odošlú nové úlohy.
Všetky tieto agenty sú v súčasnosti založené na GPT-4. Richards aj Nakajima sa zhodujú na tom, že cieľom nie je odstrániť ľudský dohľad. Ľudia však majú príležitosť prejsť od vykonávania úloh k riadeniu úloh. Tieto systémy síce majú autonómne technológie, ale stále vyžadujú ľudský dohľad.
„Kľúčovým aspektom systému Auto-GPT je schopnosť fungovať s minimálnym ľudským zásahom. Transformuje veľký jazykový model v podstate z pokročilého automatického dopĺňania na nezávislého agenta schopného vykonávať činnosti a učiť sa zo svojich chýb,“ povedal Richards. „Pri prechode k väčšej autonómii je však nevyhnutné vyvážiť výhody s potenciálnymi rizikami. Prioritou by malo byť zabezpečenie toho, aby agent fungoval v rámci etických a právnych hraníc a zároveň rešpektoval otázky ochrany súkromia a bezpečnosti.“
Tieto pokusy o autonómiu sú súčasťou dlhej etapy vo výskume umelej inteligencie, ktorej cieľom je dosiahnuť, aby modely simulovali reťazce myslenia, uvažovania a sebakritiky na splnenie zoznamu úloh.
Zdroj: vice.com.
