SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement

AI sa nás učí manipulovať a my ani nevieme presne ako

Výskum a vývoj
0

Nie je nijaké tajomstvo, že technologické giganty zhromažďujú (a kupujú a predávajú) obrovské množstvo údajov o svojich zákazníkoch, medzi ktorých patrí takmer každý z nás. Menej sa však zamýšľame nad tým, čo presne s týmito údajmi robia – vrátane výcviku umelej inteligencie. Ľudia sú celkom dobrí vo vzájomnej manipulácii. No pri použití AI, softvérových systémov, ktoré sa učia samy, môžu ľudia nátlaku podľahnúť ešte rýchlejšie. Keď je umelá inteligencia nasadená správnym spôsobom, môže vás presvedčiť, aby ste si niečo kúpili, zdieľali príspevok, hlasovali za kandidáta alebo urobili množstvo iných vecí.

Nedávno tím výskumníkov z Commonwealth Scientific and Industrial Research Organisation (CSIRO), austrálskej federálnej vedeckej a výskumnej agentúry, vykonal sériu experimentov, ktoré skúmali, ako AI ovplyvňuje ľudské rozhodovanie. Výsledky ukázali, že AI dokáže nájsť a využiť slabé miesta v ľudskom rozhodovaní, aby ľudí nasmerovala k určitým rozhodnutiam.

„Dôsledky tohto výskumu sú potenciálne dosť ohromujúce,“ uviedol v tlačovej správe Amir Dezfouli, odborník na strojové učenie v CSIRO a vedúci výskumník štúdie. Podobne ako vás dobrý predajca môže prinútiť urobiť niečo, čo by ste inak neurobili, tieto algoritmy vás môžu prinútiť kliknúť, kúpiť alebo zdieľať. Nielen preto, že o vás veľa vedia, ale aj preto, že vedia, aké techniky vás pravdepodobne prinútia urobiť to či ono rozhodnutie. A desivé je, že úplne nerozumieme tomu, ako to umelá inteligencia robí.

Napríklad umelá inteligencia na základe zhromažďovania a analýzy obrovského množstva údajov rýchlo prišla na to, že sociálne siete sú oveľa pútavejšie, keď hrajú na negatívne emócie, a že ľudia viac reagujú na negatívny obsah. V posledných rokoch to malo veľké nepredvídané dôsledky. Neexistuje zákerný aktér, ktorý by sa zámerne snažil robiť zle. Nikto z Facebooku neprišiel a nepovedal: „Áno, chceme spôsobiť genocídu v Mjanmarsku,“ alebo: „Chceme masovo ovplyvniť voľby.“

Zámerom bolo, samozrejme, predať vám tovar - alebo v prípade Facebooku udržať vás na stránke, aby vám spoločnosti, ktoré kupujú reklamný priestor, mohli predať tovar. Dôsledky však môžu ďaleko presahovať hranice obchodu.  To, či sa tieto technológie používajú v dobrom alebo zlom, závisí od toho, ako zodpovedne ich navrhneme a nasadíme.

Ďalšia zásada hovorí, že je kľúčová transparentnosť a zodpovedné zverejňovanie informácií, aby ľudia mohli pochopiť, kedy sa ich rozhodovanie manipuluje, a zistiť, kedy sa do toho zapája systém AI. Pri interakcii s robotom alebo umelou inteligenciou by ste mali poznať minimálne odpovede na nasledujúce otázky:

1. Kto ich vlastní alebo kto je do toho zainteresovaný?

2. Aké sú jeho ciele? Snaží sa vám napríklad niečo predať alebo vás presvedčiť, že by ste si mali vziať napr. lieky?

3. Akú taktiku používa na dosiahnutie týchto cieľov?

4. Aké údaje má k dispozícii?

Žiaľ, odpovede na mnohé z týchto otázok väčšina z nás nepozná...

Zdroj: discovermagazine.com.

Redakcia

Všetky autorove články

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať