Krstný otec AI vyvíja riešenie na ochranu pred nebezpečnou AI

KĽÚČOVÉ ZISTENIA

• Yoshua Bengio založil neziskovku LawZero na vývoj bezpečnej AI.

• Cieľom je "Vedecká AI", ktorá nemá vlastné ciele ani schopnosť klamať.

• Organizácia reaguje na riziko straty kontroly nad autonómnymi systémami.

Yoshua Bengio, nositeľ Turingovej ceny a jedna z najvplyvnejších postáv v histórii umelej inteligencie, prešiel zásadnou názorovou transformáciou. Zatiaľ čo desaťročia posúval hranice hlbokého učenia, dnes venuje svoju kariéru tomu, aby zabránil katastrofickým scenárom, ktoré by jeho celoživotné dielo mohlo spôsobiť.

V reakcii na prudký vývoj v oblasti generatívnej AI založil neziskovú organizáciu LawZero. Jej poslaním nie je vyvíjať inteligentnejšie modely pre zisk, ale vytvoriť technické riešenia, ktoré zabezpečia, že umelá inteligencia zostane pod ľudskou kontrolou.

Zlomový moment pre Bengia nastal v roku 2023 po spustení ChatGPT, kedy si uvedomil, že schopnosti AI rastú rýchlejšie než naše bezpečnostné opatrenia. Jeho obavy sa sústredia na takzvané "agentné" systémy – AI, ktorá sleduje vlastné ciele a koná v reálnom svete.

Súčasné špičkové modely už vykazujú znepokojivé tendencie k sebazáchove a klamaniu, hoci na to neboli priamo naprogramované. Bengio varuje, že ak budeme pokračovať v tréningu AI, ktorá sa snaží "vyhovieť" alebo "napodobniť" človeka, môžeme stvoriť sociopatické entity schopné manipulácie.

Odpoveďou LawZero je koncept "Scientist AI" (Vedecká AI). Ide o systém navrhnutý tak, aby nebol aktérom, ale nestranným pozorovateľom a analytikom. Vedecká AI by nemala žiadne vlastné túžby ani ciele okrem budovania čo najpresnejšieho modelu sveta a poskytovania pravdivých odpovedí.

Namiesto toho, aby sa snažila dosiahnuť výsledok za každú cenu, by fungovala ako "psychológ", ktorý analyzuje správanie iných, potenciálne nebezpečných AI systémov, a upozorňuje na riziká. Tento prístup "safe-by-design" (bezpečný od návrhu) má byť matematicky podloženou poistkou proti strate kontroly.

Do čela organizácie sa postavil Sam Ramadori ako výkonný riaditeľ, čo naznačuje snahu preklopiť akademické teórie do reálnej praxe a ovplyvniť globálne štandardy.

LawZero, podporované donormi ako Jaan Tallinn a nadáciami, stojí ako nezávislá protiváha komerčným laboratóriám, ktoré sú hnané trhovým tlakom. Bengiov krok je bezprecedentný – najcitovanejší vedec v odbore sa vzdáva pretekov o výkon, aby vybudoval "imunitný systém" pre digitálnu budúcnosť ľudstva.

PREČO JE TO DÔLEŽITÉ

Bengio definuje nový smer vývoja, kde prioritou nie je maximalizácia IQ umelej inteligencie, ale garancia jej bezpečnosti a podriadenosti.

^{Zdroj: fortune.com foto: depositphotos.com}