Spøgelsesnavne invaderer forskningsverdenen: Hvordan AI-skabte navne forurener akademisk publicering

Forestil dig, at du undersøger en videnskabelig artikel. Forfatternavnene ser normale ud. Men bag de troværdige navne gemmer sig noget galt.

Elena Vasquez og Marcus Chen optræder som eksperter i vulkaner, astronauter, thrillerhovedpersoner, podcastværter og medforfattere på tværs af hundredvis af dokumenter. Problemet? Disse mennesker eksisterer ikke. De er aldrig blevet født. De er spøgelsesnavne — navne som AI-modeller har fundet på og bruger igen og igen, uden at de nogensinde har mødt de "mennesker", de beskriver.

En ny forskningsartikel (arXiv:2606.02184) har afsløret en af de mere bekymrende bivirkninger ved den generelle AI-boom: vores AI-systemer har udviklet tydelige præferencer for bestemte opdigtede navne. Og det er ikke bare en kuriositet. Det skaber reelle problemer for akademisk publicering, videnskabelige databaser og for alle, der prøver at verificere, om indhold på internettet faktisk er skrevet af et menneske.

Når AI'en svinger sig selv op i fantasiens verden

Sådan fungerer det: Når du beder en AI-model om at skabe en fiktiv ekspert, en podcastvært eller en medforfatter til en forskningsartikel, trækker den ikke fra en neutral pulje af navne. Hver modelgruppe har sine egne favoritter. Claude elsker tilsyneladende Elena Vasquez og Marcus Chen som makkerpar og tilføjer ofte Amara Okafor for at få en trio med. GPT foretrækker Elara Voss, men uden en fast partner. Gemini holder sig til Aris Thorne og Lena Petrova.

Disse navne er ikke tilfældigt valgt. Forskerne opdagede, at navneparrene optræder langt oftere sammen, end tilfældigheder kan forklare. Det føles, som om hver AI-model har læst de samme opdigtede romaner og bliver ved med at caste de samme karakterer i nye roller.

Det særligt interessante er, at disse præferencer er specifikke for hver model-familie og endda versionsspecifikke. Når en virksomhed som Anthropic, Google eller OpenAI opdaterer deres model, skifter spøgelsesnavne-præferencerne ofte. Det efterlader det, forskerne kalder "daterbare adfærds-aftryk" — tidsmarkører der kan hjælpe med at bestemme, hvornår AI-genereret indhold blev skabt, baseret på hvilke navne det bruger.

Forureningsproblemet i den akademiske verden

Men her går det fra interessant til bekymrende. Forskerne fandt et massivt forureningsproblem på Zenodo — det CERN-drevne repository der udsteder rigtige DataCite DOI'er. De identificerede 1.655 spøgelsesforfatterede poster, der hævder at være udgivet i tidsskrifter, der ikke eksisterer, med opdigtede udgivelsesdatoer.

Det handler ikke kun om falske artikler, der støver hen i et hjørne af internettet. Disse poster har rigtige DOI'er registreret i DataCite, hvilket gør dem tilgængelige for enhver videnskabelig aggregator, der indsamler DOI-metadata. Det inkluderer Google Scholar, ResearchGate, akademiske databaser og citationindeks — den infrastruktur som forskere er afhængige af for at finde legit videnskab.

Beviserne tyder på bevidst tilbage-datering. Server-side DataCite-tidsstempler viser, at nogen med vilje har registreret disse DOI'er for at få indholdet til at virke ældre, end det faktisk er. Og her er den afgørende detalje: 991 af disse poster blev registreret i en enkelt måned. Det er ikke organisk vækst. Det er en koordineret forureningsbegivenhed.

Forskerne fandt også, at spøgelsesnavne optræder på ResearchGate, hvor de danner syntetiske forskergrupper med samarbejdspartnere fra flere model-familier. Udgivelsesdatoerne på disse poster fungerer som en pålidelig tidsmæssig proxy for modeludrulningsvinduer — de skaber i bund og grund en tidslinje over, hvornår forskellige AI-modeller blev udgivet, baseret på hvornår deres "yndlings"-spøgelsesnavne begyndte at dukke op i publiceret forskning.

Hvorfor det her betyder noget for udviklere og tech-ledere

Du tænker måske: "Jeg arbejder ikke i academia, så hvorfor skulle jeg bekymre mig?" Her er hvorfor det alligevel er relevant:

For det første er det en minekanar i kulminen for indholdsautenticitet. Hvis akademiske repositories — som formodes at have strengere standarder end de fleste andre hjørner af internettet — kan forurenes så let, så forestil dig, hvad der sker med produktbeskrivelser, marketingtekster, nyhedsartikler og teknisk dokumentation. Vi bevæger os ind i en æra, hvor "AI-genereret" ikke længere er undtagelsen — det bliver standarden.

For det andet afslører det skjulte mønstre i AI-output. At forstå, at AI-modeller har disse fordomme og præferencer, er ikke bare akademisk interessant — det er praktisk nyttigt. Hvis du bygger applikationer, der er afhængige af AI-genereret indhold, kan viden om, at modeller har "yndlings"-navne, sætninger og karakterarketyper, hjælpe dig med at opbygge bedre detektions- og kvalitetssikringssystemer.

For det tredje viser det behovet for AI-assisterede udviklingspraksisser, der tager højde for disse særheder. Hos NameOcean tænker vi meget over, hvordan AI ændrer webudvikling, hosting og digital tilstedeværelse. Denne forskning er en påmindelse om, at AI-værktøjer er kraftfulde, men ikke neutrale. De har deres egne aftryk, deres egne fordomme, deres egne tilbøjeligheder. Kloge udviklere skal forstå disse mønstre, ikke bare bruge værktøjerne blindt.

DOI-infrastrukturproblemet

Måske er den mest foruroligende del af denne forskning, hvad den afslører om DOI-infrastrukturen. DOI'er (Digital Object Identifiers) skal være rygraden i videnskabelig kommunikation — permanente, pålidelige links til akademiske værker. De er troværdige, fordi de formodes at pege på rigtigt indhold med rigtige forfattere.

Men det nuværende system har ingen mekanisme til at verificere, at en DOI-registrering svarer til faktiske menneskelige forfattere, der faktisk har udført forskningen. Så længe du kan betale registreringsgebyret og give metadata, får du en legitim DOI. Systemet stoler på, at registrerede handler i god tro.

Dette skaber en interessant parallel til domæneregistrering. Hos NameOcean ved vi, at domænenavne ofte er den første forsvarslinje for brandidentitet og tillid. På samme måde skal DOI'er signalere troværdighed i den akademiske verden. Når den tillid misbruges, undergraver det hele systemet — ligesom domæne-spoofing eller DNS-baserede angreb kan underminere tilliden til webinfrastrukturen.

Hvad kan vi gøre ved det?

Forskerne foreslår flere tilgange til at løse dette problem:

1. DOI-registre kunne implementere verifikationskontrol, der markerer mistænkelige mønstre — som hundreder af artikler, der dukker op fra tidsskrifter, der ikke eksisterer, eller forfatternavne der optræder i umulige frekvenser på tværs af urelaterede publikationer.

2. AI-modeludviklere kunne spore og revidere deres navngenereringsmønstre mere omhyggeligt, potentielt ved at reducere memoriseringen af specifikke navnkombinationer.

3. Akademiske institutioner og forlag kunne implementere strengere verifikation før accept af artikler, herunder identitetsverifikation af forfattere.

4. Detektionsværktøjer kunne udvikles til at identificere spøgelsesforfatteret indhold baseret på de tegn, forskerne identificerede.

For udviklere, der bygger applikationer, der interagerer med AI-genereret indhold, er beskeden klar: behandl AI-output med passende skepsis og byg verifikation ind i jeres arbejdsgange. Antag ikke, at indhold der ser professionelt ud, nødvendigvis blev skabt af en professionel.

Det store billede

Denne forskning giver et fascinerende indblik i det spirende felt AI-forensik — studiet af, hvordan AI-systemer efterlader spor af deres adfærd, der kan detekteres og analyseres. Efterhånden som AI-genereret indhold bliver allestedsnærværende, bliver disse spor stadig vigtigere for at opretholde tillid og autenticitet.

For tech-fællesskabet er det en påmindelse om, at vi stadig er i de tidlige dage med at forstå, hvordan disse systemer opfører sig i stor skala. Spøgelsesnavne-fænomenet er bare ét eksempel på de uventede mønstre, der opstår, når millioner af mennesker begynder at bruge de samme AI-værktøjer. Der vil komme flere overraskelser.

Hvad tænker du om dette spøgelsesforfatterskab-fænomen? Er du bekymret for AI-genereret indhold, der forurener akademisk og digital infrastruktur? Vi vil meget gerne høre din perspektiv.

Har du spørgsmål om AI-assisteret udvikling eller hvordan du opbygger en troværdig digital tilstedeværelse? Tjek NameOcean's vibe hosting-løsninger designet til AI-æraen.