Chatbot bojuje s telefónnymi podvodníkmi ich vlastnými zbraňami

Výskumníci z Macquarie University v Sydney vytvárajú systém chatbota, ktorý má fungovať ako „honeypot“ a lákať podvodníkov na 40-minútové rozhovory, ktoré nemajú žiadny význam. Zámerom je narušiť obchodný model podvodníkov a výrazne im sťažiť zarábanie peňazí. Nápad pochádza od profesora Daliho Kaafara z Macquarie University, ktorý dostal spamový hovor a podvodníka držal na linke 40 minút. Potom začal premýšľať o tom, ako by bolo možné celý proces automatizovať a pomocou spracovania prirodzeného jazyka vyvinúť počítačového chatbota, ktorý by mohol s podvodníkom viesť vierohodnú konverzáciu.

Výsledkom je Apate, chatbot pomenovaný podľa gréckej bohyne podvodu. V podstate využíva technológiu v štýle ChatGPT a spája ju s klonovaním hlasu s cieľom vytvoriť fiktívneho človeka navrhnutého na vedenie dlhých a presvedčivých rozhovorov s podvodníkom. Kaafarov tím trénoval chatbota na prepisoch reálnych podvodných konverzácií vrátane telefonátov, e-mailov a správ na sociálnych sieťach, takže ten dokáže generovať odpovede podobné ľudským.

Cieľom je, aby bol bot dostatočne inteligentný na to, aby podvodníka oklamal a prinútil ho k 40-minútovej konverzácii. V súčasnosti Apate dosahuje priemernú dĺžku iba 5 minút. Kaafar však poznamenáva: „Zistili sme, že chatboty celkom pekne reagujú na niektoré zložité situácie, ktoré sme nečakali, že sa nám podarí vyriešiť, napríklad keď podvodníci žiadajú informácie, na ktoré sme chatboty netrénovali, ale tie sa prispôsobujú a prichádzajú s veľmi vierohodnými odpoveďami.“

K vývoju Apate dochádza aj v čase, keď podvodníci už využívajú technológie umelej inteligencie, ako je klonovanie hlasu a deepfakes, na podporu svojich vlastných schém. Kaafar teda v istom zmysle skúma, či by sa tie isté technológie nedali použiť na boj proti nim. Tím už rokuje o Apate s viacerými poskytovateľmi telekomunikačných služieb.

Zdroj: pcmag.com.