Superinteligenciu získame už za pár rokov. Ak ju nedokážeme zvládnuť môže to spôsobiť zánik ľudstva

Spoločnosť OpenAI, tvorca ChatGPT, uviedla, že superinteligencia, ktorá by mohla prísť do konca tohto desaťročia, bude najvplyvnejšou technológiou, akú kedy ľudstvo vymyslelo. Zároveň však môže byť aj veľmi nebezpečná a mohla by viesť dokonca k zániku ľudstva. „Aj keď sa zdá, že superinteligencia je teraz ďaleko, veríme, že by mohla prísť už v tomto desaťročí,“ uvádza OpenAI vo svojom blogovom príspevku.

Spoločnosť, ktorá stojí na čele vývoja technológie generatívnej umelej inteligencie, ďalej tvrdí: „V súčasnosti nemáme riešenie, ako potenciálne superinteligentnú umelú inteligenciu riadiť alebo kontrolovať a zabrániť jej, aby sa zvrhla. Naše súčasné techniky na vyladenie AI, ako je napríklad posilňovacie učenie na základe spätnej väzby od ľudí, sa spoliehajú na schopnosť ľudí dohliadať na AI...“

Začiatkom tohto roka významní odborníci požiadali laboratóriá umelej inteligencie, aby pozastavili výcvik výkonnejších systémov AI, ako je GPT, aspoň na šesť mesiacov. Keďže laboratóriá umelej inteligencie sa ocitli v nekontrolovateľných pretekoch vo vývoji ešte výkonnejších digitálnych myslí, nedochádza k riadnemu plánovaniu s cieľom posúdiť a kontrolovať dôsledky takýchto technológií.

OpenAI uvádza, že zostavuje tím špičkových výskumníkov a inžinierov v oblasti strojového učenia, ktorí budú na tomto probléme pracovať. „V nasledujúcich štyroch rokoch venujeme 20 percent výpočtového výkonu, ktorý sme doteraz zabezpečili, na riešenie problému usmernenia superinteligencie. Našou hlavnou stávkou v oblasti základného výskumu je náš nový tím pre nasmerovanie superinteligencie. Správne zvládnutie je rozhodujúce pre dosiahnutie nášho poslania a očakávame, že k nemu prispeje mnoho tímov – od vývoja nových metód až po ich rozšírenie na nasadenie,“ uviedol OpenAI.

Zdroj: thehindubusinessline.com.