Pomôžu Asimovove zákony robotiky vyriešiť bezpečnosť umelej inteligencie?

 

KĽÚČOVÉ ZISTENIA:

• Technologický investor Tyler Winklevoss navrhuje implementovať Asimovove zákony robotiky do zdrojových kódov AI.

• Aplikácia starých pravidiel naráža na problém pri definovaní ujmy v komplexnom digitálnom a finančnom systéme.

• Vojenské inštitúcie odmietajú bezpečnostné obmedzenia, ktoré by limitovali potenciál umelej inteligencie v zbrojných systémoch.

Otázka bezpečnosti a rizík zo strany umelej inteligencie patrí ku klúčovým aktuálnym témam technologického sektora. Investor Tyler Winklevoss nedávno zverejnil názor, že vlády nemusia v tomto smere zavádzať zložité regulačné rámce. Výskumným laboratóriám navrhuje zakódovať do svojich modelov Zákony robotiky, ktoré v štyridsiatych rokoch minulého storočia vymyslel spisovateľ Isaac Asimov.

Tieto literárne pravidlá primárne zakazujú strojom ublížiť ľuďom alebo sa nečinne prizerať, ako im škodí iný činiteľ. Odborníci upozorňujú, že prenos pravidiel zo sci-fi do reálneho softvéru je technicky nerealizovateľný. Súčasné modely nemajú podobu fyzických robotov, ale fungujú ako digitálni agenti v počítačových sieťach.

Definícia samotného slova „ublížiť“ je v tomto kontexte nejasná a ťažko aplikovateľná na plne digitalizované systémy. Ak by digitálny agent nabúral bankový systém a ukradol finančné prostriedky, nespôsobil by priame fyzické zranenie, no viedlo by to k narušeniu chodu spoločnosti.

Zásadným problémom je architektúra moderných modelov, ktoré fungujú na princípe takzvaných čiernych skriniek. Príkaz dodržiavať etické pravidlá technicky zlyháva, pretože interné rozhodovacie procesy modelov nedokážu vývojári plne predvídať ani spätne analyzovať.

Snahy o zavedenie prísnych bezpečnostných mantinelov navyše narážajú na politický odpor. Aj vojenské inštitúcie odmietajú softvérové obmedzenia, ktoré by systémom bránili v autonómnom riadení zbraní alebo pri plnení úloh národnej bezpečnosti. Regulačný rámec tak zostáva nejednotný, keďže časť politického spektra odmieta štátne zásahy do vývoja technológií.

PREČO JE TO DÔLEŽITÉ: Aplikácia literárnych pravidiel na umelú inteligenciu naráža na technické a politické prekážky, čo dokazuje zložitosť kontroly týchto netransparentných systémov.

Zdroj: gizmodo.com foto: ChatGPT