Když umělá inteligence začíná vymýšlet celebrity: Duchové jména v akademickém světě

Představte si, že narazíte na vědeckou práci, kde jsou jako spoluautoři uvedeni lidé, které nikdy nikdo neviděl. Že se nějaká Elena Vasquez objevuje jako expertka na sopky, astronautka, hrdinka thrilleru a zároveň host podcastu – v tisících různých dokumentů. Problém je, že tahle paní neexistuje. A není sama.

Nový výzkum (arXiv:2606.02184) odhalil jeden z vedlejších efektů boomu generativní AI, který je stejně fascinující jako znepokojivý: naše AI modely si vytvořily specifické "preferenční vzory" pro určitá jména. Neustále dokola generují ty samé fiktivní postavy, aniž by tušily, že nikdy neexistovaly.

Jak AI neustále recykluje své vymyšlené přátele

Když požádáte AI model, aby vytvořil fiktivního experta nebo spoluautora výzkumu, nemůžete očekávat náhodný výběr z neutrálního fondu jmen. Každá rodina modelů má své oblíbence. Claude evidentně miluje duo Elena Vasquez a Marcus Chen, často k nim přidává Amara Okafor pro trio. GPT inklinuje k Elara Voss, ale zatím si nevybral konzistentního parťáka. Gemini zase preferuje Aris Thorne a Lena Petrova.

Tohle není náhoda. Výzkumníci zjistili, že tyto dvojice jmen se vyskytovaly společně daleko častěji, než by odpovídalo statistické pravděpodobnosti. Jako kdyby každý AI model četl ty samé fiktivní romány a neustále obsazoval stejné postavy do nových rolí.

Zajímavé je, že tyto preference jsou specifické nejen pro rodinu modelu, ale dokonce pro konkrétní verzi. Když Anthropic, Google nebo OpenAI aktualizují svůj model, často se změní i preference pro "duchová jména". Vznikají tak jakési časové otisky – podle použitých jmen lze odhadnout, kdy byl obsah generován.

Akademické smetiště

Tady to přestává být legrační. Výzkumníci odhalili masivní kontaminaci na Zenodo – repositáři provozovaném CERN, který přiděluje skutečné DataCite DOI. Našli 1655 záznamů s duchovými autory, kteří údajně publikovali v neexistujících časopisech s vymyšlenými daty vydání.

Tyto záznamy ale nejsou jen tak někde zapomenuté ve virtuálním prachu. Mají reálné DOI registrované v DataCite, což znamená, že je může stáhnout jakýkoliv vědecký agregátor – Google Scholar, ResearchGate, citační indexy. Celá infrastruktura, na kterou se badatelé spoléhají při hledání legitimních prací.

Důkazy nasvědčují úmyslnému zpětnému datování. Časová razítka DataCite prokazují, že někdo tyto DOI registroval záměrně, aby obsah působil starším dojmem. A tady je ten hlavní důkaz: 991 těchto záznamů bylo registrováno během jediného měsíce. To není organický růst. To je koordinovaný útok na integritu dat.

Výzkumníci také zjistili, že duchová jména se objevují na ResearchGate v rámci syntetických výzkumných skupin složených z postav z různých modelových rodin. Data publikace těchto záznamů fungují jako spolehlivá časováproxy pro okna nasazení modelů – v podstatě vytvářejí časovou osu vydání různých AI modelů podle toho, kdy se jejich "oblíbená" jména začala objevovat ve vědeckých pracích.

Proč by vás to mělo zajímat, i když nejste akademik

Možná si říkáte: "Akademie mě nezajímá, proč bych měl tenhle problém řešit?" Důvody jsou následující:

Zaprvé, je to varovný signál pro celou oblast autenticity obsahu. Pokud akademické repositáře – které by měly mít přísnější standardy než většina internetu – lze tak snadno kontaminovat, představte si, co se děje s produktovými popisy, marketingovými texty, zpravodajstvím a technickou dokumentací. Vstupujeme do éry, kdy "AI-generovaný obsah" už není výjimka – stává se defaultem.

Zadruhé, odhaluje to skryté vzorce v AI výstupech. Pochopení, že AI modely mají tato specifika a preference, není jen akademické cvičení – je to prakticky užitečné. Pokud stavíte aplikace spoléhající na AI-generovaný obsah, vědomí "oblíbených" jmen, frází a archetypů postav vám pomůže vybudovat lepší detekční a kontrolní systémy.

Zatřetí, upozorňuje to na potřebu vývojových postupů respektujících tyto zvláštnosti. U NameOcean přemýšlíme hodně o tom, jak AI mění webhosting a digitální přítomnost. Tento výzkum připomíná, že AI nástroje jsou mocné, ale ne neutrální. Mají své otisky, své zkreslení, své tendence. Chytří vývojáři tyto vzorce musejí rozumět, nejen slepě používat.

Problém infrastruktury DOI

Možná nejznepokojivější aspekt celého výzkumu odhaluje, jak je na tom infrastruktura DOI. DOI (Digital Object Identifiers) by měly být páteří vědecké komunikace – trvalé, spolehlivé odkazy na akademické práce. Jsou důvěryhodné, protože se předpokládá, že ukazují na skutečný obsah se skutečnými autory.

Současný systém ale nemá mechanismus, který by ověřil, že registrace DOI odpovídá skutečným lidským autorům, kteří výzkum skutečně prováděli. Dokud zaplatíte registrační poplatek a dodáte metadata, dostanete legitimní DOI. Systém důvěřuje, že registrovaní jednají v dobré víře.

To vytváří zajímavou paralelu s registrací domén. U NameOcean víme, že doménová jména jsou často první linií obrany značkové identity a důvěry. Podobně DOI signalizují důvěryhodnost v akademickém světě. Když je tato důvěra zneužita, podkopává to celý systém – stejně jako domain spoofing nebo DNS útoky mohou narušit důvěru ve webovou infrastrukturu.

Co s tím?

Výzkumníci navrhují několik přístupů k řešení tohoto problému:

1. Registry DOI by mohly implementovat ověřovací kontroly identifikující podezřelé vzorce – stovky prací z neexistujících časopisů nebo autor jména objevující se v nemožné frekvenci napříč nesouvisejícími publikacemi.

2. Vývojáři AI modelů by mohli pečlivěji sledovat a auditovat vzorce generování jmen, potenciálně omezujíc memorování specifických kombinací.

3. Akademické instituce a vydavatelé by mohly zavést přísnější ověřování před přijetím prací, včetně verifikace identity autorů.

4. Lze vyvinout detekční nástroje identifikující duchovsky autorizovaný obsah na základě stop, které výzkumníci objevili.

Pro vývojáře stavějící aplikace interagující s AI-generovaným obsahem je poučení jasné: přistupujte k AI výstupům s odpovídající skepsí a budujte ověřování do svých workflow. Nepředpokládejte, že obsah vypadající profesionálně nutně vytvořil profesionál.

Větší obrázek

Tento výzkum je fascinujícím pohledem na vznikající oblast AI forenziky – studium toho, jak AI systémy zanechávají stopy svého chování, které lze detekovat a analyzovat. S tím, jak se AI-generovaný obsah stává všudypřítomným, tyto stopy se stávají stále důležitějšími pro udržení důvěry a autenticity.

Pro technologickou komunitu je to připomínka, že jsme stále v raných fázích pochopení chování těchto systémů ve velkém měřítku. Fenomén duchových jmen je jen jedním příkladem neočekávaných vzorců, které se objevují, když miliony lidí začnou používat stejné AI nástroje. Čeká nás více překvapení.

Co si myslíte o tomto fenoménu duchového autorství? Zajímá vás problematika AI-generovaného obsahu znečišťujícího akademickou a digitální infrastrukturu? Rádi si přečteme váš názor.

Zajímá vás AI-asistovaný vývoj nebo budování důvěryhodné digitální přítomnosti? Podívejte se na vibe hosting řešení od NameOcean navržená pro éru umělé inteligence.