Čo je LLM poisoning?

Veľké jazykové modely typu ChatGPT-4, Gemini, Claude a mnohé ďalšie sa stali kľúčovými nástrojmi na generovanie textu, vyhľadávanie informácií a automatizáciu komu­nikácie. S ich rastúcim vplyvom však narastajú aj riziká spojené s manipuláciou obsahu, medzi ktoré patrí aj fenomén známy ako LLM poisoning čiže zámerné infiltrovanie falošných informácií do procesov učenia týchto modelov. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}}  Veľké jazykové modely sú trénované na obrovskom množstve verejného textu z internetu vrátane osobných webových stránok a blogových príspevkov. To znamená, že ktokoľvek môže vytvoriť online obsah, ktorý by sa nakoniec mohol dostať do trénovacích dát modelu. Toto so sebou prináša riziko, že škodliví aktéri môžu do týchto príspevkov vložiť špecifický text, aby prinútili model naučiť sa nežiaduce alebo nebezpečné správanie. LLM poisoning je zámerný alebo nezámerný proces vkladania falošných, zavádzajúcich alebo manipulatívnych informácií do dátového setu, ktorý je použi ... Zobrazit Galériu