7 výrokov Sama Altmana, CEO spoločnosti, ktorá stvorila ChatGPT
Generálny riaditeľ OpanAI Sam Altman nedávno vystúpil na technologickom summite Bloomberg v San Franciscu a vyslovil niekoľko zaujímavých myšlienok. Ponúkame vám sedem jeho najpozoruhodnejších citátov z tohto podujatia:
O existenčnej hrozbe, ktorú predstavuje budúca umelá inteligencia
„Sme na exponenciálnej krivke, a to pomerne strmej, a ľudská intuícia pre exponenciálne krivky je naozaj zlá... A tak si myslím, že vzhľadom na to, že všetci máme túto slabinu, musíme naozaj tlačiť na to, aby sme si povedali: Dobre, GPT-4 nie je riziko, ako sa hovorí, ale ako si môžeme byť istí, že ani GPT-9 nebude? A keby mohlo byť, aj keď je malé percento pravdepodobnosti, že bude naozaj zlé, zaslúži si to pozornosť.“
O tom, prečo by sme nemali jednoducho prestať vyvíjať takúto potenciálne nebezpečnú technológiu
„Myslím si, že pozitíva sú tu obrovské, je to príležitosť pre každého na Zemi, aby mal kvalitnejšie vzdelanie, ako môže získať v podstate ktokoľvek dnes... Lekárska starostlivosť môže byť sprístupnená skutočne celosvetovo. Bude to mať transformačný význam... Som presvedčený, že skutočné udržateľné zlepšenie kvality života pochádza z vedecko-technického pokroku ... Myslím, že by bolo dobré skoncovať s chudobou. Možno si myslíte, že by bolo dobré zastaviť technológiu, ktorá to všetko dokáže; ja osobne si to nemyslím.“
O jeho výzve na reguláciu AI a obvinenia, že OpenAI chce reguláciu len preto, aby si ochránila svoje súčasné vedúce postavenie
„Nemyslíme si, že malé startupy a open source modely pod určitou veľmi vysokou hranicou schopností by mali podliehať veľkým reguláciám. Videli sme, čo sa stane s krajinami, ktoré sa snažia nadmerne regulovať technológie... Ale nad určitou hranicou schopností by podľa mňa mali modely prechádzať procesom certifikácie. Myslím si, že by mali existovať externé audity a bezpečnostné testy. Robíme to tak v mnohých iných odvetviach, kde nám záleží na bezpečnosti.“
O spolupráci s Čínou na bezpečnostných pravidlách pre vývoj AI
„V USA sa často hovorí: S Čínou sa nedá spolupracovať, je to úplne mimo hry... Ale nie je mi jasné, či je to skutočný fakt. Mám podozrenie, že to tak nie je.“
O zaujatosti v otvorených modeloch AI
„Nedávno sa uskutočnila štúdia, podľa ktorej je model GPT-4 menej zaujatý v testoch implicitných predsudkov ako ľudia, dokonca aj ľudia, ktorí si myslia, že sa v tom naozaj vycvičili... Ak sa pozriete na pokrok od modelu k modelu, dokonca aj niektorí z našich najväčších kritikov si hovoria, že sa nám z modelu podarilo odstrániť pomerne veľa zaujatosti. Takže si myslím, že modely, ako je tento, môžu byť silou na zníženie zaujatosti vo svete, nie na jej zvýšenie.“
O tom, že nevlastní žiadny podiel v spoločnosti OpenAI, a o svojich osobných motiváciách
„Peňazí mám dosť. Čo chcem navyše, je napríklad zaujímavý život, vplyv; možnosť zapojiť sa do konverzácie. Takže z toho mám stále veľký sebecký prospech. Čo budem robiť so svojím časom?... Neviem si predstaviť zaujímavejší život ako tento a zaujímavejšiu vec, na ktorej by som mohol pracovať.“
O tom, či by mal svet dôverovať Samovi Altmanovi
„Nemali by ste. Tu by sa nemalo dôverovať žiadnej osobe... Myslím si, že táto technológia, jej výhody, prístup k nej, jej riadenie patrí ľudstvu ako celku. Ak to naozaj funguje, je to dosť silná technológia a nemali by ste dôverovať jednej spoločnosti a už vôbec nie jednej osobe.“
Zdroj: fastcompany.com.
