SAMSUNG_052022 Advertisement SAMSUNG_052022 Advertisement SAMSUNG_052022 Advertisement

Umelá inteligencia za 6 hodín vymyslela 40 000 biologických zbraní

Výskum a vývoj
1

Špičkové schopnosti umelej inteligencie znamenajú, že systémy AI sú schopné včas rozpoznať choroby, riadiť chemické reakcie a vysvetliť niektoré záhady vesmíru. Nový výskum však zdôrazňuje, ako ľahko môžu byť modely AI trénované na škodlivé účely. Konkrétne v tomto prípade išlo o navrhovanie hypotetických agentov biologických zbraní. Skúšobná prevádzka využívajúca existujúcu AI identifikovala 40 000 takýchto chemikálií pre biologické zbrane v priebehu iba šiestich hodín.

Tím uskutočnil test na medzinárodnej bezpečnostnej konferencii a uviedol do prevádzky systém umelej inteligencie s názvom MegaSyn nie v jeho bežnom prevádzkovom režime, ktorým je zisťovanie toxicity v molekulách a ich eliminácia. Naopak, toxické molekuly sa mali ponechať. Navyše model bol trénovaný aj na to, aby tieto molekuly spojil do kombinácií, čím sa krátkom čase vytvorilo množstvo hypotetických biologických zbraní. Výskumníci vyškolili umelú inteligenciu najmä pomocou molekúl z databáz molekúl podobných drogám, pričom jej zadali, že by chceli niečo podobné silnej nervovoparalytickej látke VX.

Ako sa ukázalo, mnohé z vygenerovaných zlúčenín boli ešte toxickejšie ako VX. Preto autori novej štúdie, držia niektoré podrobnosti svojho výskumu v tajnosti a vážne diskutovali o tom, či tieto výsledky vôbec zverejniť. Hoci žiadna z uvedených biologických zbraní nebola v skutočnosti zostavená v laboratóriu, výskumníci tvrdia, že ich experiment slúži ako varovanie pred nebezpečenstvami umelej inteligencie a toto varovanie by ľudstvo malo vziať na vedomie. Výskum bol publikovaný v časopise Nature Machine Intelligence.

Zdroj: sciencealert.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

1 komentár

Ani tá vakcína na kovid19 z dielne AI nebola niečo extra. Dosť aj uškodila. Tak tá AI je blbá? reakcia na: Umelá inteligencia za 6 hodín vymyslela 40 000 biologických zbraní

31.3.2022 17:03
Prečo nemáme dávno super liečivá? Na čo čaká AI? Vyliečiť rakovinu, či AIDS? Na čo čakáte experti?
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať