Prečo Pentagon odmieta využívať ChatGPT
ChatGPT od Open AI a jemu podobné nástroje tento rok dominovali titulkom novín. Nedávne správy však odhalili, prečo Pentagón presadzuje úplne iné prístupy k umelej inteligencii. Vojenskí velitelia totiž potrebujú nástroje, ktorým môžu dôverovať. Neurónová sieť v srdci AI je poháňaná zbieraním kúskov informácií z miliónov webových stránok. Hoci spoločnosť Open AI nezverejnila, aké webové stránky použila na trénovanie svojich nástrojov, nedávne vyšetrovanie denníka Washington Post preskúmalo 15 miliónov webových stránok, ktoré výskumníci použili na trénovanie podobných modelov.
Nie je prekvapujúce, že táto veľká masa údajov obsahuje veľa vecí, ktoré nie sú pravdivé, preto modely generatívnej AI často klamú. Aj keby ste trénovali veľké jazykové modely na starostlivo vybranom súbore webových stránok, stále môžete naraziť na „umelé halucinácie“ (fenomén, keď stroj, napríklad chatbot, generuje zdanlivo realistické zmyslové zážitky, ktoré nezodpovedajú žiadnym vstupom z reálneho sveta). Americké ministerstvo obrany je preto pri používaní takýchto nástrojov veľmi opatrné.
„ChatGPT nebudeme používať v jeho súčasnej inštancii. Veľké jazykové modely sú však veľmi užitočné,“ povedal na konferencii Defense One Tech Summit Maynard Holliday, zástupca hlavného technologického riaditeľa ministerstva obrany pre kritické technológie. Pentagón bude preto modely generatívnej umelej inteligencie používať na základe vlastných údajov. Budú teda vyškolené na údajoch ministerstva obrany a budú sa používať na jeho počítačoch – buď na počítačoch v cloude, alebo lokálnych, ktoré budú šifrované.
Ministerstvo obrany sa tiež musí zlepšiť v štruktúrovaní a zdieľaní údajov. „Potrebujete dobré údaje, napríklad údaje, ktoré sú použiteľné na otázky, na ktoré chcete použiť umelú inteligenciu,“ povedal Mike Horowitz, ktorý vedie Úrad pre politiku rozvíjajúcich sa spôsobilostí v kancelárii námestníka ministra obrany pre politiku. „Treba, aby tieto údaje boli vyčistené, označené, a tento proces je časovo náročný.“ Velitelia nebudú dôverovať nástroju, ak nebudú vedieť pochopiť, ako a na akých údajoch bol vycvičený, povedal Holliday. Každý sa môže s ChatGPT pohrať, aby zistil, do akej miery mu môže dôverovať pri danom použití, ale ministerstvo obrany sa vydalo formálnejšou cestou.
Počiatočnú dôveru možno získať prostredníctvom kontaktných bodov vojaka, dôkazov o účinnosti a spätnej väzby, ktorú systém poskytuje počas integrácie a prevádzky. Takéto cvičenia sú štruktúrované inak ako tradičné vojenské výcvikové hry. Nové cvičenia CENTCOM zamerané na technológie sa konajú v rýchlom slede za sebou a sú orientované na inováciu technológií na základe spätnej väzby od vojakov, ako aj na budovanie zručností operátorov. Kľúčovým prvkom je aj spolupráca operátorov a konštruktérov v rámci cvičení. Ide o skutočný posun v myslení, pretože predchádzajúce cvičenia nikdy nedávali ľuďom príležitosť experimentovať s týmto typom činnosti.
Prelomová aplikácia umelej inteligencie pre CENTCOM v nasledujúcich rokoch bude podľa Andrewa Moora, poradcu CENTCOM pre AI, robotiku, cloud computing a dátovú analytiku, pravdepodobne vyzerať menej ako senzačný ale chybový textový generátor a viac ako znalostný graf, na ktorom Moore pracoval u svojho predchádzajúceho zamestnávateľa Google. Veliteľstvo pracuje napríklad na tom, aby umožnilo nástrojom s AI lepšie pochopiť objekty zachytené dronmi, povedal Moore. Znalostný graf funguje na štruktúrovanie rýchlo prichádzajúcich údajov podľa hrubej koncepcie ich vlastností a vzťahov medzi objektmi.
Moore si však pre CENTCOM predstavuje vytvorenie systému na pochopenie vzťahov medzi objektmi na oveľa hlbšej úrovni, ktorý umožní veliteľskému personálu vidieť súvislosti, ktoré osvetlia bojisko a všetky objekty na ňom spôsobom, ktorý sa protivníci snažia udržať skrytý alebo si ho možno ani neuvedomujú. „Je absolútne dôležité, aby sme dokázali nielen prijímať veľké množstvá údajov, ale aby sme ich mohli normalizovať takým spôsobom, aby sme skutočne mohli robiť objektívne a správne závery,“ povedal Moore.
Zdroj: defenseone.com.
