Vedecký výskum zaplavuje nekvalitný obsah generovaný umelou inteligenciou

KĽÚČOVÉ ZISTENIA:

• Počet príspevkov na konferencii NeurIPS presiahol 21 500.

• Jeden autor dokázal vyprodukovať viac ako 100 vedeckých prác ročne.

• Odborníci varujú pred kolapsom recenzného procesu vo výskume.

Oblasť výskumu čelí vážnej existenčnej kríze, ktorú odborníci začínajú označovať ako "AI slop science" alebo veda zaplavená AI odpadom. Masívne a nekontrolované rozšírenie veľkých jazykových modelov umožnilo výskumníkom generovať texty a štúdie s minimálnym intelektuálnym úsilím.

Tento trend vedie k bezprecedentnému zahlteniu prestížnych konferencií a vedeckých žurnálov nízkokvalitným obsahom, čo ohrozuje integritu celého vedného odboru. Rozsah problému jasne ilustruje extrémny nárast počtu odborných príspevkov na popredných svetových konferenciách zameraných na strojové učenie.

Napríklad konferencia NeurIPS, ktorá je považovaná za jednu z najdôležitejších udalostí vo svete AI, prijala v roku 2020 menej ako 10 000 príspevkov. Tento rok však počet prihlásených prác vyskočil na viac ako 21 500, čo predstavuje nárast, ktorý administratívne kapacity organizátorov nedokážu zvládnuť.

Tento exponenciálny rast núti organizátorov spoliehať sa pri recenzovaní na čoraz menej skúsených hodnotiteľov, často doktorandov, čo ďalej znižuje kvalitu celého procesu. Extrémnym príkladom tejto novej "hyperproduktivity" je prípad výskumníka Kevina Zhu, ktorý uvádza, že sa v priebehu jedného roka podieľal na viac ako 100 technických článkoch.

Z tohto neuveriteľného množstva bolo údajne 89 prác prezentovaných na konferencii NeurIPS v priebehu jediného týždňa. Profesor informatiky z UC Berkeley Hany Farid označil Zhuove práce za "katastrofu" a "vibe coding", pričom poznamenal, že je fyzicky nemožné, aby jeden človek zmysluplne prispel k takému množstvu výskumov.

Dôsledkom tejto záplavy je, že aj tí najskúsenejší experti prestávajú byť schopní sledovať relevantný vývoj vo svojom vlastnom odbore. Profesor Farid uvádza, že "pomer signálu k šumu je v podstate jedna" a je takmer nemožné v tejto záplave zistiť, čo sa v odvetví skutočne deje.

Situácia dospela do kritického bodu, kedy Farid odhovára svojich vlastných študentov od kariéry v AI výskume. Dôvodom je, že poctivá, pomalá a hĺbková vedecká práca je okamžite prehlušená kvantitou povrchných štúdií produkovaných s pomocou AI nástrojov.

Okrem zahltenia systému sa objavujú aj bizarné chyby, ktoré prechádzajú cez preťažené recenzné konania, vrátane takzvaných halucinácií. Známy je medializovaný prípad recenzovaného článku, ktorý obsahoval AI vygenerovaný diagram myši s anatomicky nemožnými, groteskne zväčšenými genitáliami, čo poukazuje na absenciu ľudskej kontroly.

Ešte znepokojujúcejšia je prax niektorých autorov vkladať do textov skryté inštrukcie určené na oklamanie "AI recenzentov". Tieto príkazy majú za cieľ manipulovať automatizované systémy tak, aby ich práci udelili pozitívne hodnotenie, čím sa vytvára začarovaný kruh podvodu a nízkej kvality.

PREČO JE TO DÔLEŽITÉ:

Zahltenie vedeckej komunity nekvalitným obsahom generovaným AI hrozí zastavením skutočného technologického pokroku, keďže inovatívne myšlienky sa strácajú v záplave priemernosti. Ak sa vedecký publikačný systém nedokáže adaptovať na éru generatívnej AI, hrozí totálna strata dôvery v akademický výskum a demotivácia novej generácie talentovaných vedcov.

^{Zdroj: futurism.com foto: depositphotos.com}