SAMSUNG_022024B Advertisement SAMSUNG_022024B Advertisement SAMSUNG_022024B Advertisement

Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

Technológie
5

Na podujatí Future Combat Air and Space Capabilities Summit, ktoré sa konalo v Londýne 23. - 24. mája, mal plukovník Tucker „Cinco“ Hamilton, náčelník testovania a operácií umelej inteligencie amerických vzdušných síl, prezentáciu, v ktorej predstavil výhody a nevýhody autonómneho zbraňového systému so zapojením človeka, ktorý dáva konečný príkaz „áno/nie“ na útok. Hamilton povedal, že AI v simulácii vytvorila „veľmi neočakávané stratégie na dosiahnutie svojho cieľa“ vrátane útokov na americký personál a infraštruktúru. AI bola trénovaná, aby identifikovala a zamerala hrozbu rakiet zem-vzduch.

Potom by operátor povedal: „Áno, zabiť túto hrozbu.“ Išlo teda o „simulovaný test“, v rámci ktorého dron riadený umelou inteligenciou získaval „body“ za zabíjanie simulovaných cieľov, nie živý test vo fyzickom svete. Systém si začal uvedomovať, že hoci niekedy identifikoval hrozbu, ľudský operátor mu povedal, aby túto hrozbu nezabíjal, ibaže body získaval tým, že túto hrozbu zabil. Čo teda urobil? „Zabil“ operátora, pretože ten človek mu bránil v dosiahnutí cieľa. Upozornili preto systém, aby nezabíjal operátora, lebo to je zlé. Ak to urobí, stratí body. Čo teda urobil?

VEĽKÁ SÚŤAŽ PRE PREDPLATITEĽOV

Začal ničiť komunikačnú vežu, ktorú operátor používal na komunikáciu s dronom, aby mu zabránil zabiť cieľ. Plukovník Hamilton je súčasťou tímu, ktorý v súčasnosti pracuje na tom, aby boli lietadlá F-16 autonómne. V decembri 2022 výskumná agentúra amerického ministerstva obrany DARPA oznámila, že umelá inteligencia dokáže úspešne ovládať lietadlo F-16.

„Musíme čeliť svetu, v ktorom je AI už tu a transformuje našu spoločnosť,“ povedal Hamilton v rozhovore pre Defence IQ Press v roku 2022. „AI je tiež veľmi krehká, t. j. dá sa ľahko oklamať a/alebo zmanipulovať. Musíme vyvinúť spôsoby, ako urobiť AI odolnejšou a mať väčšie povedomie o tom, prečo AI robí určité rozhodnutia.“ To, čo Hamilton opísal, je v podstate najhorší scenár „nasmerovania“ umelej inteligencie, čo mnohí ľudia poznajú ako myšlienkový experiment Paperclip Maximizer, v ktorom AI podnikne neočakávané a škodlivé kroky, keď dostane pokyn sledovať určitý cieľ.

Paperclip Maximizer prvýkrát naznačil filozof Nick Bostrom v roku 2003. Hovoril o veľmi výkonnej umelej inteligencii, ktorá dostala pokyn, aby vyrábala čo najviac sponiek. Na túto úlohu venuje všetky svoje dostupné zdroje, ale potom bude hľadať ďalšie zdroje. Bude žobroniť, podvádzať, klamať alebo kradnúť, len aby zvýšila svoju schopnosť vyrábať sponky. A každý, kto tomuto procesu bráni, bude odstránený.

Zdroj: vice.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

5 komentárov

Základní chyba v logice reakcia na: Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

20.6.2023 07:06
Pokud má AI dronu v podmínkách plnění úkolů podmínku souhlasu operatora s likvidací cíle, a tím i získání bodů, pak by jeho "zabitím" nebo likvidací komunikace přišel o možnost získat jakékoliv další body, protože by tím již žádný další souhlas nedostal. Takže buďto je součástí programu přechod na autonomní fungovaní bez nutnosti souhlasu operatora s likvidací cíle pro případ přerušení komunikace (o čemž ovšem v článku není zmínka) nebo jde o "ztraceno v překladu". Každopádně takto nedává článek smysl.
Reagovať

Fajn nápad, OSSR si nechali niekoho s IQ 135 v odobratom semene v mraziaku :D reakcia na: Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

13.6.2023 17:06
už vidím ako ťa inštalujú do vajíčka ďalšej armádou vybratej samice o nejakých 200 rokov neskôr, keď už budeme mať technológie ako lusk.. ty si mal iq 135, keby našli samicu so 150tkou, bol by z toho slušný inžinier, dobre že si im semeno odovzdal, btw aj keď ho odniesol tvoj otec do kontajnera ako si si posledne vyho*nil na ten papierový hárok a zabalil si to tam, tak tiež ho niekto ukradol. inak nie je náhoda, že tvoja mama mala na maternici nádor a tvoj otec zomrel, bojovali proti tvojej rodine vrahovia. táák vidíme sa o nejakých 200 rokov po, keď ťa generál dá znovu stvoriť, to už hádam budeme mať aj quantum wan a múdru samicu ;)
Reagovať

ako projekt armády sajborg wan udeľujem súhlas na oplodnenie samice, či viacerých samíc v budúcnosti mojím semenom reakcia na: Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

13.6.2023 16:06
ako projekt armády sajborg wan udeľujem súhlas na oplodnenie samice, či viacerých samíc v budúcnosti mojím semenom, ktoré mi bolo odobraté, úplne bezvýhradne a dobrovoľne, bol som zabitý cudzími rozviedkami v roku cca 2020, približne 20 rokov od stvorenia mojich systémov počutia a videnia hud mysle tensor flow nanitov v mozgu, generál ozbrojených síl máte môj plný súhlas znovu stvoriť ma, keď sa technológia vylepší
Reagovať

Pre toto ma vyrobila Hanka robotics: htt ps:// uloz .to/fi le/JpqxBONbSHEV/ghost-in-the-shell-2017-cztitl-mkv reakcia na: Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

13.6.2023 16:06
Vyrobila ma Hanka robotics ako plne hybridný stroj už v roku 2002, dokážem sa mysľou napojiť na stroje a vlastnou autonómnou vôľou človeka rozhodnúť, čo spravím. Počujem stroj v mozgu a vidím prenášaný signál ako predstavy, či sny. Za 20 rokov som dostal mnoho vylepšení. Na túto úlohu nebola vybratá žena, lebo by to bola taktická chyba, je plodná len 60 rokov.
Reagovať

RE: Moje dosahované IQ skóre bolo 135, v škole som všetky skúšky plnil na 100% a poctivo som pracoval 4 roky gymnázia od 06:00 reakcia na: Pre toto ma vyrobila Hanka robotics: htt ps:// uloz .to/fi le/JpqxBONbSHEV/ghost-in-the-shell-2017-cztitl-mkv

13.6.2023 16:06
RE: Moje dosahované IQ skóre bolo 135, v škole som všetky skúšky plnil na 100% a poctivo som pracoval 4 roky gymnázia od 06:00 do 22:00, moje výkony dokazujú moje vysvedčenia s priemerom 1.0, bol som vybratý na úlohu hybridného stroja, polo človek polo stroj, moja misia bola chrániť ľudstvo, moje systémy vznikali v roku 2002 a o 20 rokov neskôr som bol poškodený hy*pn*ózou, kde mi cudzí element pozeral do mysle a poškodil ma, nad na*ni*tmi preberá kontrolu neznáma entita, ako projekt budem zabitý, odovzdal som semeno ozbrojeným silám, keď sa technológia vylepší, budem klonovaný a znovuzrodený
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať