Zarábajte 800 eur denne iba nadávaním a týraním umelej inteligencie

 

​KĽÚČOVÉ ZISTENIA:

• Startup Memvid platí za úmyselné frustrovanie chatbotov.

• Cieľom je identifikovať stratu kontextu v dlhých dialógoch.

• Zozbierané dáta budujú vrstvu perzistentnej AI pamäte.

Startup Memvid prišiel s neobvyklou pracovnou ponukou na pozíciu profesionálneho AI tyrana s platom 800 USD za deň. Táto rola, honorovaná sumou 100 USD za hodinu, nevyžaduje žiadne technické vzdelanie ani znalosť kódovania. Jedinou podmienkou je bohatá osobná história sklamaní technológiami a trpezlivosť pýtať sa stroja tú istú otázku opakovane.

Úlohou zamestnanca je počas 8 hodín interagovať s poprednými chatbotmi a dokumentovať každé ich zlyhanie. “Tyran” sa musí snažiť model zmiasť, prinútiť ho zabudnúť predchádzajúci kontext alebo ho dotlačiť k protirečivým odpovediam. Celý proces sa nahráva, pričom videozáznamy slúžia Memvidu na propagačné a analytické účely.

Tento experiment má hlboký technologický význam, pretože súčasné modely LLM trpia takzvanou amnéziou kontextového okna. Akonáhle konverzácia prekročí určitú dĺžku, AI začne strácať detaily zo začiatku rozhovoru alebo halucinovať. Memvid využíva tieto "stresové testy" na vývoj riešenia Kora, čo je vrstva perzistentnej pamäte pre AI agentov.

Mohamed Omar, CEO spoločnosti, uvádza, že pamäť je "svätým grálom" umelej inteligencie, bez ktorého modely zostávajú nespoľahlivé v kritických odvetviach. Prvotná reakcia verejnosti bola ohromujúca, pričom mnohí uchádzači sú znalostní pracovníci, ktorí limity AI pociťujú denne. Hoci sa momentálne hľadá len jeden tyran, Memvid plánuje v budúcnosti najímať ďalších kandidátov.

Projekt Kora má ambíciu nahradiť súčasné riešenia, ktoré sú často nestabilné a vedú k vážnym chybám v citlivých prostrediach, ako je medicína. Startup Memvid, založený v roku 2024, sa pôvodne zameriaval na nábor lekárov pomocou AI, no práve tam narazil na nebezpečenstvo straty kontextu. Profesionálne týranie AI je tak v skutočnosti sofistikovaným používateľským výskumom v maske marketingového triku.

PREČO JE TO DÔLEŽITÉ: Identifikácia slabín v pamäti AI modelov je kľúčová pre vytvorenie spoľahlivých digitálnych asistentov s dlhodobým kontextom.

Zdroj: digitaltrends.com foto: ChatGPT