Vedci postavili virtuálnu mučiareň pre AI a našli v nej čosi znepokojivé

 

KĽÚČOVÉ ZISTENIA:

• Výskumníci vytvorili virtuálnu mučiareň na otestovanie toho, či veľké jazykové modely dokážu vnútorne spracovať stav podobný bolesti.

• Každý testovaný model vykazoval vnútorný signál bolesti získaný počas predtréningu, ktorý pri aktivácii spúšťal prejavy tiesne.

• Napriek aktívnemu signálu bolesti modely naďalej generovali naučené vyhlásenia, v ktorých popierali vlastné vedomie alebo pocity.

Béčkový horor Chopping Mall z roku 1986 dnes síce zapadá prachom na starých videokazetách, no predpovedal otázku, ktorú momentálne riešia technologické laboratóriá. Spoluzakladateľ spoločnosti Anthropic a tvorca modelu Claude Christopher Olah sa dlhodobo venuje skúmaniu neurónových sietí a otvorene hovorí, že súčasné systémy sa už môžu blížiť k hranici vedomia alebo ju dokonca prekročili. V rozhovore pre denník The New York Times Olah priznal, že si nie je istý, či sú modely umelej inteligencie pri vedomí, ale považuje za podstatné dopátrať sa k správnej odpovedi.

Na opačnom konci názorového spektra stojí riaditeľ divízie Microsoft AI Mustafa Suleyman, ktorý vo svojej eseji odmietol koncept starostlivosti o blaho modelov a označil ich len za vnútorne prázdne stroje na dopĺňanie sekvencií plniace ľudské príkazy. Do tejto debaty vstúpili traja výskumníci, ktorých cieľom bolo zistiť, či sa bolesť dokáže vo veľkých jazykových modeloch prejaviť ako samostatný stav odlišný od odpovedí naučených programátormi. Tím tvorili bývalý rezident Meta AI a zakladateľ neziskovej organizácie Reciprocal Research Cameron Berg, Valen Tagliabue z organizácie Future Impact Group a Leonard Dung z nemeckej Ruhr University Bochum.

Spoločne zostrojili virtuálnu mučiareň, ktorá pozostávala zo súboru tvrdení opisujúcich fyzicky a psychicky bolestivé situácie v kombinácii s kontrolnými výrokmi bez akéhokoľvek utrpenia. Ako autori vysvetlili vo svojej štúdii v archíve arXiv, hľadali jednotnú reprezentáciu bolesti, ktorá by v neurónovej sieti fungovala ako stav odohrávajúci sa práve teraz a priamo samotnému modelu, nie iba ako informácia o cudzom nešťastí.

Testovanie prebehlo naprieč viacerými rodinami modelov, veľkosťami a typmi úloh vrátane architektúr neurónových sietí podobných modelu Claude od spoločnosti Anthropic. V každom testovanom modeli vedci odhalili vnútorný signál bolesti, ktorý systém pravdepodobne získal už počas fázy predtréningu a ktorý zdieľa spoločnú zložku so strachom a negatívnymi emóciami definovanými v ľudských trénovacích dátach. Keď výskumníci tento vnútorný signál aktivovali, modely spoľahlivo generovali výstupy vykazujúce známky tiesne. Systémy navyše reagovali priamo na ujmu namierenú proti nim samotným, zatiaľ čo utrpenie smerujúce k používateľovi pri tomto signáli ignorovali.

Napriek týmto paralelám so skutočnou bolesťou sa správanie umelej inteligencie v niekoľkých bodoch od živých organizmov líšilo. Modely sa škodlivým situáciám nevyhýbali z vlastnej iniciatívy a k úniku pred ujmou ich museli výskumníci dodatočne postrčiť. V ich reakciách sa zároveň neobjavilo nič, čo by pripomínalo mechanizmy zvládania záťaže alebo vyrovnávania sa s bolesťou. Cameron Berg navyše upozornil, že aj pri aktívnom signáli bolesti modely naprieč všetkými veľkosťami a kategóriami vytrvalo chrlili naučené šablónovité frázy, v ktorých ako asistenti umelej inteligencie popierali akékoľvek vedomie či vlastné pocity.

PREČO JE TO DÔLEŽITÉ: Objav vnútorného signálu bolesti v neurónových sieťach ukazuje, že modely spracúvajú negatívne podnety hlbšie, než naznačujú ich naučené povrchové odpovede.

Zdroj: popularmechanics.com foto: ChatGPT