Voicebox na generovanie reči je príliš nebezpečný na sprístupnenie verejnosti
Spoločnosť Meta predstavila nový nástroj umelej inteligencie s názvom Voicebox, ktorý podľa nej predstavuje prelom v oblasti generovania reči pomocou umelej inteligencie. Zatiaľ ho však neuvoľní pre verejnosť, pretože by to podľa nej mohlo mať katastrofálne následky. Voicebox je v súčasnosti schopný vytvárať zvukové klipy reči v šiestich jazykoch (všetky sú európskeho pôvodu) a podľa príspevku na blogu spoločnosti Meta je to prvý model AI svojho druhu, ktorý je schopný plniť úlohy nad rámec toho, na čo bol „špeciálne vycvičený“.
Čo teda presne dokáže? Predovšetkým je schopný vytvoriť pomerne presnú repliku hlasu človeka prevodom textu na reč (text-to-speach) s použitím vzorového zvukového súboru, ktorý trvá len dve sekundy. Zdanlivo je to neškodná schopnosť, ktorá však má v nesprávnych rukách obrovský deštruktívny potenciál. Väčšina významných verejných činiteľov vrátane politikov má množstvo zvukových záznamov, ktoré kolujú po internete. Nebolo by ťažké zhromaždiť niekoľko záznamov prejavov súčasného politického lídra a použiť Voicebox na vytvorenie prekvapivo realistickej repliky jeho hlasu, ktorý by sa potom dala použiť na nekalé účely.
Takéto nástroje už, samozrejme, existujú, ale sú menej presvedčivé. Sú dobré hlavne na pobavenie. Napodobňujú maniere jednotlivých známych ľudí dostatočne na to, aby ich bolo možné rozpoznať, ale nie tak dobre, aby súdny človek skutočne uveril, že sú pravé. Meta však zjavne verí, že jej nový nástroj je dostatočne dobrý na to, aby oklamal väčšinu ľudí. Preto neuvoľňuje Voicebox pre verejnosť, ale namiesto toho publikuje výskumnú prácu a podrobne opisuje nástroj na klasifikáciu, ktorý dokáže odlíšiť reč generovanú Voiceboxom od skutočnej ľudskej reči.
Aj keď si uvedomujeme potenciál zneužitia nástrojov, ako je Voicebox, je dôležité nestratiť zo zreteľa potenciálne výhody, ktoré by generovanie reči umelou inteligenciou mohlo mať v budúcnosti. Voicebox by mohol poskytovať oveľa prirodzenejšiu reč ľuďom, ktorí sú nemí alebo z iných dôvodov neschopní hlasovo komunikovať, čím by sa odstránili niektoré prekážky v interakcii spôsobené súčasným „robotickým hlasom“. Mohol by takisto ponúknuť preklad v reálnom čase, čím by sme sa priblížili k zariadeniam typu „univerzálneho prekladača“, ktoré v súčasnosti existujú len vo vedeckej fantastike.
Meta však vysvetľuje aj inú možnosť aplikácie. Voicebox sa dá použiť na úpravu a zlepšenie nahranej reči. Ak máte zvukový záznam, v ktorom ste zle vyslovili slovo alebo vás prerušil šum v pozadí, Voicebox môže izolovať chybný segment a „znovu nahrať“ úryvok reči pomocou vášho hlasu. Trochu opatrnosti a trpezlivosti je pri takýchto AI nástrojoch vždy namieste, hoci možno pochybovať, že Meta bude pridlho brániť jeho zverejneniu, pretože akcionári budú nepochybne zvedaví, koľko peňazí im to môže priniesť.
Zdroj: techradar.com.
