Spøkelsesnavn: Slik forurenser AI akademisk publisering

Tenk deg at du finner navn som Elena Vasquez og Marcus Chen oppført som eksperter på vulkaner, astronauter, forskningsmedforfattere og podkastvertinner – i hundrevis av dokumenter. Problemet? Disse menneskene eksisterer ikke. De har aldri eksistert. De er spøkelsesnavn som AI-modeller gang på gang henter fram fra intet.

Forskere har nå dokumentert et av de mer urovekkende biproduktene av generative AI-verktøy: modellene har tydelige «navnpreferanser» – navn som dukker opp med påfallende regularitet i alt fra fiktive eksperter til oppdiktede forskningsartikler.

Hvorfor AIen husker navn den aldri har møtt

Det som skjer er egentlig ganske logisk når du tenker på det. Når du ber en AI om å generere en fiktiv ekspert eller en podkastvert, trekker den ikke fra et nøytralt utvalg av navn. Hver modellfamilie har sine favoritter. Claude bruker stadig Elena Vasquez og Marcus Chen sammen, gjerne med Amara Okafor som tredjepart. GPT foretrekker Elara Voss uten å ha funnet en fast partner. Gemini har sansen for Aris Thorne og Lena Petrova.

Disse mønstrene er ikke tilfeldige. Forskerne fant at navneparene opptrer sammen langt oftere enn tilfeldigheter kan forklare. Det er som om hver AI-modell har lest de samme tenkte romanene og stadig caster de samme karakterene i nye roller.

Det interessante er at disse preferansene varierer mellom modellfamilier og til og med mellom versjoner. Når selskaper som Anthropic, Google eller OpenAI oppdaterer modellene sine, skifter gjerne spøkelsesnavn-favorittene. Dette etterlater det forskerne kaller «daterbare atferdsavtrykk» – tidsmarkører som kan avsløre når AI-generert innhold ble laget, basert på hvilke navn som ble brukt.

Forurensningen av akademiske arkiver

Her blir historien mer alvorlig. Forskerne fant en massiv forurensning i Zenodo, et repository drevet av CERN som utsteder ekte DataCite DOI-er. De identifiserte 1655 poster med spøkelsesforfattere som hevder å være publisert i tidsskrifter som ikke eksisterer, med oppdiktede publiseringsdatoer.

Dette er ikke bare falske artikler som samler støv i et hjørne av internett. Disse postene har ekte DOI-er registrert i DataCite, noe som gjør dem tilgjengelige for alle akademiske aggregatorer som høster DOI-metadata. Tenk Google Scholar, ResearchGate, akademiske databaser og sitasjonsindekser – hele infrastrukturen forskere er avhengige av for å finne legitim forskning.

Bevisene tyder på bevisst tilbakedatering. Server-tidsstempler fra DataCite viser at noen registrerte disse DOI-ene med vilje for å få innholdet til å framstå eldre enn det er. Her er det avgjørende beviset: 991 av disse postene ble registrert i løpet av én måned. Det er ikke organisk vekst. Det er en koordinert forurensningsaksjon.

Forskerne fant også at spøkelsesnavn dukker opp på ResearchGate og danner kunstige forskergrupper med «medforfattere» hentet fra flere modellfamilier. På denne måten fungerer publiseringsdatoene som en pålitelig tidslinje for når ulike AI-modeller ble lansert – basert på når deres «favoritt»-spøkelsesnavn begynte å dukke opp i publisert forskning.

Hvorfor dette angår utviklere og tech-ledere

Kanskje tenker du: «Jeg driver ikke med akademia, hvorfor bry meg?» Her er tre grunner til at dette er relevant uansett:

For det første: Dette er en kanarifugl i gruven for innholdsautentisitet. Hvis akademiske arkiver – som gjerne har strengere standarder enn de fleste andre steder på nettet – kan forurenses så lett, tenk deg hva som skjer med produktbeskrivelser, markedsføringstekst, nyhetsartikler og teknisk dokumentasjon. Vi er på vei inn i en era der «AI-generert» ikke lenger er unntaket; det blir standarden.

For det andre: Dette avslører skjulte mønstre i AI-output. Å forstå at AI-modeller har disse biasene og preferansene er ikke bare akademisk kuriositet – det er praktisk nyttig. Hvis du bygger applikasjoner som er avhengige av AI-generert innhold, kan kunnskap om modellenes «favorittnavn», fraser og karakterarketyper hjelpe deg med å bygge bedre deteksjon og kvalitetssikringssystemer.

For det tredje: Det understreker behovet for AI-assistert utviklingspraksis som tar hensyn til disse egenartene. Hos NameOcean tenker vi mye på hvordan AI endrer webutvikling, hosting og digital tilstedeværelse. Denne forskningen minner oss om at AI-verktøy er kraftfulle, men ikke nøytrale. De har sine egne fingeravtrykk, sine egne skjevheter, sine egne tendenser. Dyktige utviklere må forstå disse mønstrene, ikke bare bruke verktøyene blindt.

DOI-infrastrukturens sårbarhet

Kanskje det mest urovekkende med denne forskningen er hva den avslører om DOI-infrastrukturen. DOI-er (Digital Object Identifiers) skal være ryggraden i akademisk kommunikasjon – permanente, pålitelige lenker til vitenskapelige verk. De er troverdige fordi de antas å peke til ekte innhold med ekte forfattere.

Men dagens system har ingen mekanisme for å verifisere at en DOI-registrering faktisk korresponderer med reelle menneskelige forfattere som faktisk utførte forskningen. Så lenge du kan betale registreringsavgiften og oppgi metadata, får du en legitim DOI. Systemet stoler på at registratorene handler i god tro.

Dette skaper en interessant parallell til domeneregistrering. Hos NameOcean vet vi at domenenavn ofte er første forsvarslinje for merkevareidentitet og tillit. På samme måte skal DOI-er signalisere troverdighet i den akademiske verden. Når den tilliten misbrukes, undergraves hele systemet – akkurat som domeneforfalskning eller DNS-baserte angrep kan undergrave tilliten til webinfrastruktur.

Hva kan vi gjøre med dette?

Forskerne foreslår flere tilnærminger:

1. DOI-registre kunne implementert verifiseringskontroller som flagger mistenkelige mønstre – som hundrevis av artikler fra tidsskrifter som ikke eksisterer, eller forfatternavn som opptrer i umulig frekvens på tvers av urelaterte publikasjoner.

2. AI-modellutviklere kunne spore og revidere sine navngenereringsmønstre mer nøye, og potensielt redusere memoriseringen av spesifikke navnkombinasjoner.

3. Akademiske institusjoner og forlag kunne implementere strengere verifisering før de godtar artikler, inkludert forfatteridentitetskontroll.

4. Deteksjonsverktøy kunne utvikles for å identifisere spøkelsesforfattet innhold basert på de kjennetegnene forskerne har identifisert.

For utviklere som bygger applikasjoner som samhandler med AI-generert innhold, er lærdommen klar: behandl AI-output med passende skepsis og bygg verifisering inn i arbeidsflyten. Ikke anta at innhold som ser profesjonelt ut nødvendigvis ble skapt av et menneske.

Det store bildet

Denne forskningen gir et fascinerende innblikk i det voksende feltet AI-forensikk – studiet av hvordan AI-systemer etterlater seg spor som kan oppdages og analyseres. Etter hvert som AI-generert innhold blir allestedsnærværende, blir disse sporene stadig viktigere for å opprettholde tillit og autentisitet.

For tech-miljøet er det en påminnelse om at vi fremdeles er i de tidlige dagene med å forstå hvordan disse systemene oppfører seg i stor skala. Spøkelsesnavn-fenomenet er bare ett eksempel på de uventede mønstrene som oppstår når millioner av mennesker begynner å bruke de samme AI-verktøyene. Flere overraskelser vil komme.

Hva tenker du om dette spøkelsesforfatterskap-fenomenet? Er du bekymret for at AI-generert innhold forurenser akademisk og digital infrastruktur? Vi vil gjerne høre perspektivet ditt.

Har du spørsmål om AI-assistert utvikling eller hvordan du bygger en troverdig digital tilstedeværelse? Sjekk ut NameOceans hosting-løsninger designet for AI-æraen.