Невидимите автори: Как фалшивите имена на AI замърсяват научния свят

Представи си следното: Елена VASQUEZ и Маркус Чен се появяват като вулканолози, астронавти, герои на трилъри и съавтори на научни статии в стотици документи. Проблемът? Тези хора никога не са съществували.

Това не са забравени исторически личности или obscure изследователи. Те са имена-призраци, генерирани от AI модели, които никога не са ги срещали.

Ново изследване (arXiv:2606.02184) разкрива един от най-неприятните странични ефекти на generative AI бума: нашите AI системи са развили специфични "предпочитания към имена" — любими измислени имена, които се появяват с подозрителна честота в техните отговори. И това не е просто любопитство. Създава реални проблеми за академичното publishing, научните архиви и всеки, който се опитва да провери дали дадено съдържание в интернет е наистина написано от човек.

Когато AI си спомня несъществуващи хора

Какво точно се случва? Когато поискаш от AI модел да генерира измислен експерт, водещ на подкаст или съавтор на научно изследване, той не избира от неутрален набор от имена. Всяко семейство модели има своите фаворити.

Claude очевидно обожава Елена VASQUEZ и Маркус Чен като двойка, често добавяйки Амара Окафор за трио. GPT обикновено избира Елара Вос, но не е решил за постоянен партньор. Gemini предпочита Арис Торн и Лена Петрова.

Тези имена не са случайни. Изследователите установиха, че съвместната поява на тези двойки имена далеч надхвърля очакваното. Сякаш всеки AI модел е чел едни и същи въображаеми романи и продължава да снима едни и същи герои в нови роли.

Особено интересното е, че тези предпочитания са специфични за семейството модели и дори за конкретната версия. Когато компания като Anthropic, Google или OpenAI обнови своя модел, предпочитанията към призрачните имена често се променят. Това оставя това, което изследователите наричат "следи от поведение, които могат да се датират" — маркери, помагащи да се определи кога е създадено дадено AI-съдържание, въз основа на това какви имена използва.

Замърсяването на академичната среда

Но ето къде нещата стават тревожни. Изследователите идентифицираха мащабно замърсяване в Zenodo — repository-то на CERN, което издава реални DataCite DOI. Те откриха 1655 записа с призрачни автори, твърдящи, че са публикувани в несъществуващи списания, с измислени дати на публикуване.

Това не са просто фалшиви статии, забравени в прашния ъгъл на интернет. Тези записи носят реални DOI, регистрирани в DataCite, което ги прави достъпни за всяка scholarly платформа, която събира DOI метаданни. Това включва Google Scholar, ResearchGate, академични бази данни, citation индекси — цялата инфраструктура, от която изследователите зависят, за да намерят легитимни публикации.

Доказателствата сочат към умишлено обратно датиране. Server-side DataCite timestamps показват, че някой е регистрирал тези DOI целенасочено, за да направи съдържанието да изглежда по-старо, отколкото е всъщност. И ето ключовия детайл: 991 от тези записи са били регистрирани в рамките на един месец. Това не е органичен ръст. Това е координирана атака за замърсяване.

Изследователите откриха също, че призрачни имена се появяват в ResearchGate, формиращи синтетични изследователски групи с колеги от различни семейства модели. Датите на публикуване на тези записи предоставят надежден temporal proxy за прозорците на deployment на моделите — създавайки timeline на това кога различните AI модели са били пуснати, въз основа на това кога техните "любими" призрачни имена са започнали да се появяват в публикувани изследвания.

Защо това е важно за разработчиците

Сигурно си мислиш: "Не съм в академичната сфера, така че защо да ме интересува?" Ето защо има значение дори ако никога не си писал научно есе:

Първо, това е канаретка в мината за автентичността на съдържанието. Ако академичните repository-та — които вероятно имат по-строги стандарти от повечето други кътчета на интернет — могат толкова лесно да бъдат замърсени, представи си какво се случва с продуктови описания, маркетингови текстове, новинарски статии и техническа документация. Влизаме в ера, когато "AI-генерирано" вече не е изключение; то става норма.

Второ, разкрива скритите модели в AI изхода. Разбирането, че AI моделите имат тези пристрастия и предпочитания, не е просто академично любопитно — то е практически полезно. Ако разработваш приложения, които разчитат на AI-генерирано съдържание, знанието, че моделите имат "любими" имена, фрази и character archetypes, може да ти помогне да изградиш по-добри системи за detection и quality assurance.

Трето, подчертава нуждата от AI-assisted development практики, които отчитат тези особености. Ние в NameOcean много се замисляме върху това как AI променя уеб разработката, хостинга и дигиталното присъствие. Това изследване е напомняне, че AI инструментите са мощни, но не и неутрални. Те носят свои собствени следи, свои собствени пристрастия, свои собствени тенденции. Умните разработчици трябва да разбират тези модели, а не просто да използват инструментите сляпо.

Проблемът с DOI инфраструктурата

Може би най-тревожният аспект на това изследване е какво разкрива за DOI инфраструктурата. DOI (Digital Object Identifiers) са гръбнакът на академичната комуникация — постоянни, надеждни линкове към научни трудове. Те се доверяват, защото се приема, че сочат към реално съдържание с реални автори.

Но в момента системата няма механизъм да провери дали една DOI регистрация съответства на реални човешки автори, които реално са провели изследването. Докато можеш да платиш таксата за регистрация и да предоставиш metadata, получаваш легитимен DOI. Системата вярва, че регистрантите действат добросъвестно.

Това създава интересна паралел с domain регистрацията. В NameOcean знаем, че domain имената често са първата линия на защита за brand identity и доверие. По подобен начин, DOI-тата трябва да сигнализират за надеждност в академичния свят. Когато това доверие се злоупотреби, то подкопава цялата система — точно както domain spoofing или DNS-based атаки могат да подкопаят доверието в уеб инфраструктурата.

Какво можем да направим?

Изследователите предлагат няколко подхода за справяне с този проблем:

1. DOI registries могат да имплементират verification checks, които да маркират подозрителни модели — като стотици статии, появяващи се от несъществуващи списания, или имена на автори, присъстващи с невъзможна честота в несвързани публикации.

2. AI разработчиците могат да проследяват и одитират своите модели за генериране на имена по-внимателно, потенциално намалявайки запомнянето на конкретни комбинации от имена.

3. Академичните институции и издатели могат да имплементират по-строга проверка преди да приемат статии, включително верификация на авторовата идентичност.

4. Могат да бъдат разработени detection tools за идентифициране на съдържание с призрачни автори въз основа на характерните белези, които изследователите идентифицираха.

За разработчиците, които изграждат приложения, взаимодействащи с AI-генерирано съдържание, поуката е ясна: третирай AI изхода с подходящ скептицизъм и вгради verification в своите workflows. Не приемай, че съдържание, което изглежда професионално, непременно е създадено от професионалист.

По-голямата картина

Това изследване е фascinating поглед към нововъзникващата област на AI forensics — изучаването на това как AI системи оставят следи от своето поведение, които могат да бъдат открити и анализирани. Тъй като AI-съдържанието става повсеместно, тези следи стават все по-важни за поддържането на доверие и автентичност.

За tech общността това е напомняне, че все още сме в ранните дни на разбирането как тези системи се държат в мащаб. Феноменът с призрачните имена е само един пример за неочакваните модели, които се появяват, когато милиони хора започнат да използват едни и същи AI инструменти. Предстоят ни още изненади.

Какво мислиш за този феномен на призрачното авторство? Притеснен ли си от AI-съдържание, замърсяващо академичната и дигиталната инфраструктура? Ще се радваме да чуем твоята гледна точка.

Имаш въпроси за AI-assisted разработка или как да изградиш надеждно дигитално присъствие? Разгледай vibe hosting решенията на NameOcean, проектирани за AI ерата.