Úplne nový typ umelej inteligencie môže zásadne zmeniť náš svet

Spin-off spoločnosť Massachusettskej technickej univerzity (MIT) Liquid AI sa zameriava na budovanie systémov umelej inteligencie na všeobecné použitie, ktoré sú poháňané relatívne novým typom modelu umelej inteligencie nazývaným tekutá neurónová sieť. Tekuté neurónové siete ako koncept existujú od roku 2018. Myšlienka vznikla na Viedenskej technickej univerzite v Rakúsku a jej autorom je profesor Radu Grosu. Práca sa potom zdokonalila v laboratóriu MIT CSAIL. Na sklonku roka 2020 výskumníci z Liquid AI publikovali výskumnú prácu s názvom Liquid Time-constant Networks (Tekuté časovo konštantné siete).

Tekuté neurónové siete pozostávajú z „neurónov“ riadených rovnicami, ktoré predpovedajú správanie každého jednotlivého neurónu v čase, podobne ako väčšina ostatných moderných modelových architektúr. Slovo tekuté v termíne odkazuje na flexibilitu architektúry. Tekuté neurónové siete, inšpirované „mozgami“ hlístovcov, sú nielen oveľa menšie ako tradičné modely umelej inteligencie, ale na svoj chod potrebujú podstatne menej výpočtového výkonu.

Na lepšie pochopenie je užitočné porovnať tekutú neurónovú sieť s typickým generatívnym modelom umelej inteligencie. GPT-3 od OpenAI, predchodcu modelu GPT-4, ktorý generuje text a analyzuje obrázky, obsahuje približne 175 miliárd parametrov a okolo 50 000 neurónov. Parametre sú časti modelu naučené z tréningových údajov, ktoré v podstate definujú zručnosť modelu pri riešení problému (v prípade GPT-3 ide o generovanie textu). Naproti tomu tekutá neurónová sieť vycvičená na úlohu, ako je navigácia dronu vo vonkajšom prostredí, môže obsahovať len 20 000 parametrov a menej ako 20 neurónov.

Vo všeobecnosti sa menej parametrov a neurónov premieta do menšieho počtu výpočtov potrebných na trénovanie a spustenie modelu, čo je v čase, keď je výpočtová kapacita AI na prvom mieste, atraktívna vyhliadka. Napríklad tekutá neurónová sieť navrhnutá na autonómne riadenie auta by teoreticky mohla bežať na počítači Raspberry Pi. Malá veľkosť a jednoduchá architektúra tekutých neurónových sietí poskytujú ďalšiu výhodu v podobe interpretovateľnosti. Zistiť funkciu každého neurónu v tekutej neurónovej sieti je ľahšie zvládnuteľná úloha ako zistiť funkciu približne 50 000 neurónov v GPT-3. V súčasnosti už existujú modely s niekoľkými parametrami, ktoré dokážu autonómne riadiť vozidlo, generovať texty a iné.

Nízke režijné náklady však nie sú jedinou výhodou tekutých neurónových sietí. Ďalšia príťažlivá vlastnosť je ich schopnosť prispôsobovať svoje parametre „úspešnosti“ v čase. Siete berú do úvahy sekvencie údajov na rozdiel od izolovaných výsekov alebo snímok, ktoré spracúva väčšina modelov, a dynamicky upravujú výmenu signálov medzi svojimi neurónmi. Tieto vlastnosti umožňujú tekutým neurónovým sieťam vyrovnať sa so zmenami v ich okolí a okolnostiach (napríklad s meniacimi sa poveternostnými podmienkami v kontexte autonómnej jazdy), aj keď neboli vyškolené na to, aby tieto zmeny predvídali.

V testoch tekuté neurónové siete prekonali iné najmodernejšie algoritmy pri predpovedaní budúcich hodnôt v súboroch údajov od atmosférickej chémie až po automobilovú dopravu. No ešte pôsobivejšie je to, čo dosiahli v autonómnej navigácii.

Začiatkom tohto roka výskumný tím Liquid AI vycvičil tekutú neurónovú sieť na údajoch zozbieraných profesionálnym ľudským pilotom dronu. Algoritmus potom nasadili na flotilu kvadrokoptér, ktoré absolvovali testy zamerané na dlhé vzdialenosti, sledovanie cieľa a ďalšie testy v rôznych vonkajších prostrediach vrátane lesa a husto obývanej mestskej štvrte.

Podľa tímu tekutá neurónová sieť prekonala iné modely vycvičené na navigáciu – dokázala prijímať rozhodnutia, ktoré priviedli drony k cieľu v doteraz neprebádaných priestoroch, pričom sa museli vyrovnávať s hlukom a inými problémami. Okrem toho bola tekutá neurónová sieť jediným modelom, ktorý dokázal bez akéhokoľvek dolaďovania spoľahlivo zovšeobecňovať na scenáre, ktoré nevidel.

Pátracie a záchranné práce pomocou dronov, monitorovanie voľne žijúcich živočíchov a doručovanie zásielok patria medzi najzrejmejšie aplikácie tekutých neurónových sietí. Tím Liquid AI však tvrdí, že architektúra je vhodná na analýzu akýchkoľvek javov, ktoré v čase kolíšu, vrátane elektrických rozvodných sietí, lekárskych údajov, finančných transakcií a nepriaznivých poveternostných podmienok. Pokiaľ existuje dátový súbor so sekvenčnými údajmi, napríklad video, tekuté neurónové siete sa na ňom môžu výborne natrénovať.

 Zdroj: techcrunch.com.