Φαντάσματα στην Ακαδημία: Πώς το AI Γεμίζει τα Επιστημονικά Περιοδικά με Ψεύτικους Συγγραφείς
Το Φαινόμενο των "Φαντασμάτων": Πώς τα AI Δημιουργούν Επινοημένα Ονόματα και Μολύνουν την Ακαδημαϊκή Δημοσίευση
Φαντάσου το εξής σενάριο: Η Elena Vasquez και ο Marcus Chen εμφανίζονται ως ειδικοί σε ηφαιστειακά θέματα, αστροναύτες, πρωταγωνιστές θρίλερ, παρουσιαστές podcast και συν-συγγραφείς ακαδημαϊκών εργασιών σε εκατοντάδες έγγραφα. Υπάρχει όμως ένα πρόβλημα — αυτοί οι άνθρωποι δεν έχουν υπάρξει ποτέ. Δεν είναι κρυμμένες προσωπικότητες της ιστορίας ούτε ασαφείς ερευνητές. Είναι ονόματα-φαντάσματα, δημιουργήματα μοντέλων AI που δεν έχουν συναντήσει ποτέ αυτούς τους ανθρώπους.
Μια νέα ερευνητική μελέτη (arXiv:2606.02184) αποκαλύπτει μια από τις πιο ανησυχητικές παρενέργειες της έκρηξης του generative AI: τα συστήματά μας έχουν αναπτύξει συγκεκριμένες "προτιμήσεις ονομάτων" — τάσεις δηλαδή να επιλέγουν ορισμένα επινοημένα ονόματα με ύποπτη συχνότητα. Και αυτό δεν είναι απλώς περίεργο. Δημιουργεί πραγματικά προβλήματα στην ακαδημαϊκή δημοσίευση, στα επιστημονικά αποθετήρια, και σε όποιον προσπαθεί να επιβεβαιώσει ότι περιεχόμενο στο διαδίκτυο γράφτηκε πραγματικά από άνθρωπο.
Όταν η AI Θυμάται Ανύπαρκτους Ανθρώπους
Αυτό που συμβαίνει είναι το εξής: όταν ζητάς από ένα μοντέλο AI να δημιουργήσει έναν φανταστικό ειδικό, έναν παρουσιαστή podcast ή έναν συν-συγγραφέα ερευνητικής εργασίας, δεν επιλέγει από ένα ουδέτερο σύνολο ονομάτων. Κάθε οικογένεια μοντέλων έχει τα δικά της αγαπημένα. Το Claude φαίνεται να λατρεύει το δίδυμο Elena Vasquez και Marcus Chen, συχνά προσθέτοντας την Amara Okafor για τριάδα. Το GPT τείνει προς την Elara Voss αλλά δεν έχει βρει σταθερό συν-πρωταγωνιστή. Το Gemini προτιμά τους Aris Thorne και Lena Petrova.
Αυτές δεν είναι τυχαίες επιλογές. Οι ερευνητές διαπίστωσαν ότι τα ποσοστά συν-εμφάνισης αυτών των ζευγών ονομάτων υπερβαίνουν κατά πολύ αυτά που θα περίμενε κανείς από τύχη. Είναι σαν κάθε μοντέλο AI να έχει διαβάσει τα ίδια μυθιστορήματα και να επιλέγει συνεχώς τους ίδιους χαρακτήρες για νέους ρόλους.
Ιδιαίτερα ενδιαφέρον είναι ότι αυτές οι προτιμήσεις είναι συγκεκριμένες ανά οικογένεια μοντέλου και μάλιστα ανά έκδοση. Όταν μια εταιρεία όπως η Anthropic, η Google ή η OpenAI αναβαθμίζει το μοντέλο της, οι προτιμήσεις σε ονόματα-φαντάσματα συχνά αλλάζουν. Αυτό δημιουργεί αυτό που οι ερευνητές αποκαλούν "χρονολογικά δακτυλικά αποτυπώματα" — δείκτες που βοηθούν στον προσδιορισμό της ημερομηνίας δημιουργίας περιεχομένου AI με βάση τα ονόματα που χρησιμοποιεί.
Το Πρόβλημα της Ακαδημαϊκής Μόλυνσης
Αλλά εδώ η υπόθεση περνά από το περίεργο στο ανησυχητικό. Οι ερευνητές εντόπισαν ένα τεράστιο πρόβλημα μόλυνσης στο Zenodo, το αποθετήριο που διαχειρίζεται το CERN και εκδίδει πραγματικά DataCite DOI. Βρήκαν 1.655 εγγραφές με ονόματα-φαντάσματα που ισχυρίζονται ότι δημοσιεύτηκαν σε περιοδικά που δεν υπάρχουν, με κατασκευασμένες ημερομηνίες δημοσίευσης.
Δεν πρόκειται απλώς για ψεύτικες εργασίες που σκουντουφλάνε σε κάποια σκοτεινή γωνία του διαδικτύου. Αυτές οι εγγραφές φέρουν πραγματικά DOI εγγεγραμμένα στο DataCite, καθιστώντας τις προσβάσιμες από κάθε ακαδημαϊκό συγκεντρωτή που καταναλώνει μεταδεδομένα DOI. Δηλαδή το Google Scholar, το ResearchGate, ακαδημαϊκές βάσεις δεδομένων, δείκτες αναφορών — όλη την υποδομή στην οποία βασίζονται οι ερευνητές για να βρουν νόμιμη επιστημονική έρευνα.
Τα στοιχεία υποδηλώνουν σκόπιμη οπισθοχρονολόγηση. Τα χρονικά δεδομένα εγγραφής στο DataCite αποδεικνύουν ότι κάποιος καταχώρησε αυτά τα DOI σκόπιμα για να φαίνεται το περιεχόμενο παλαιότερο από ό,τι είναι. Και εδώ είναι το καυστικό στοιχείο: 991 από αυτές τις εγγραφές καταχωρήθηκαν σε έναν μόνο μήνα. Αυτό δεν είναι οργανική ανάπτυξη. Είναι συντονισμένο συμβάν μόλυνσης.
Οι ερευνητές βρήκαν επίσης ότι ονόματα-φαντάσματα εμφανίζονται στο ResearchGate και σχηματίζουν συνθετικές ερευνητικές ομάδες με συνεργάτες από διαφορετικές οικογένειες μοντέλων AI. Οι ημερομηνίες δημοσίευσης σε αυτές τις εγγραφές παρέχουν αξιόπιστη χρονική αντιστοίχιση για τα παράθυρα ανάπτυξης μοντέλων — ουσιαστικά δημιουργώντας ένα χρονολόγιο πότε κυκλοφόρησαν διαφορετικά μοντέλα AI με βάση το πότε άρχισαν να εμφανίζονται τα "αγαπημένα" τους ονόματα-φαντάσματα στη δημοσιευμένη έρευνα.
Γιατί Πρέπει να Νοιαστείτε (Ακόμα Κι Αν Δεν Είστε Ακαδημαϊκοί)
Μπορεί να σκέφτεσαι: "Δεν ασχολούμαι με την ακαδημία, οπότε γιατί να με απασχολεί;" Ας δούμε γιατί αυτό έχει σημασία ακόμα κι αν δεν έχεις γράψει ποτέ ερευνητική εργασία:
Πρώτον, είναι κανάρι για την αυθεντικότητα του περιεχομένου. Αν ακαδημαϊκά αποθετήρια — που υποτίθεται έχουν αυστηρότερα πρότυπα από τις περισσότερες γωνιές του διαδικτύου — μπορούν να μολυνθούν τόσο εύκολα, φαντάσου τι συμβαίνει με περιγραφές προϊόντων, διαφημιστικά κείμενα, ειδήσεις και τεχνική τεκμηρίωση. Μπαίνουμε σε μια εποχή όπου το "AI-generated" δεν είναι πια η εξαίρεση· γίνεται ο κανόνας.
Δεύτερον, αποκαλύπτει κρυφά μοτίβα στις εξόδους της AI. Το να κατανοείς ότι τα μοντέλα AI έχουν αυτές τις προτιμήσεις δεν είναι απλώς ακαδημαϊκά ενδιαφέρον — είναι πρακτικά χρήσιμο. Αν χτίζεις εφαρμογές που βασίζονται σε περιεχόμενο AI, το να γνωρίζεις ότι τα μοντέλα έχουν "αγαπημένα" ονόματα, φράσεις και αρχέτυπα χαρακτήρων μπορεί να σε βοηθήσει να φτιάξεις καλύτερα συστήματα ανίχνευσης και διασφάλισης ποιότητας.
Τρίτον, υπογραμμίζει την ανάγκη για πρακτικές ανάπτυξης με AI assistance που λαμβάνουν υπόψη αυτές τις ιδιαιτερότητες. Στην NameOcean, σκεφτόμαστε πολύ το πώς η AI αλλάζει την ανάπτυξη ιστοσελίδων, το hosting και την ψηφιακή παρουσία. Αυτή η έρευνα είναι υπενθύμιση ότι τα εργαλεία AI είναι ισχυρά αλλά όχι ουδέτερα. Έχουν τα δικά τους δακτυλικά αποτυπώματα, τις δικές τους τάσεις. Οι έξυπνοι developers πρέπει να κατανοούν αυτά τα μοτίβα, όχι απλώς να χρησιμοποιούν τα εργαλεία τυφλά.
Το Πρόβλημα Υποδομής των DOI
Ίσως η πιο ανησυχητική πτυχή αυτής της έρευνας είναι αυτό που αποκαλύπτει για την υποδομή των DOI. Τα DOI (Digital Object Identifiers) υποτίθεται ότι είναι η ραχοκοκαλιά της ακαδημαϊκής επικοινωνίας — μόνιμοι, αξιόπιστοι σύνδεσμοι προς ακαδημαϊκά έργα. Εμπιστευόμαστε τα DOI επειδή υποτίθεται οδηγούν σε πραγματικό περιεχόμενο με πραγματικούς συγγραφείς.
Αλλά το σημερινό σύστημα δεν έχει μηχανισμό για να επαληθεύσει ότι μια εγγραφή DOI αντιστοιχεί σε πραγματικούς ανθρώπους που πραγματικά διεξήγαγαν την έρευνα. Αρκεί να πληρώσεις το τέλος εγγραφής και να δώσεις μεταδεδομένα για να πάρεις ένα νόμιμο DOI. Το σύστημα εμπιστεύεται ότι οι εγγραφόμενοι ενεργούν με καλή πίστη.
Αυτό δημιουργεί μια ενδιαφέρουσα παράλληλη με την κατοχύρωση domain names. Στην NameOcean γνωρίζουμε ότι τα domain names είναι συχνά η πρώτη γραμμή άμυνας για την ταυτότητα και την εμπιστοσύνη μιας επωνυμίας. Παρομοίως, τα DOI υποτίθεται σηματοδοτούν αξιοπιστία στον ακαδημαϊκό κόσμο. Όταν αυτή η εμπιστοσύνη καταχράται, υπονομεύει ολόκληρο το σύστημα — ακριβώς όπως το domain spoofing ή οι επιθέσεις μέσω DNS μπορούν να υπονομεύσουν την εμπιστοσύνη στις υποδομές του web.
Τι Μπορούμε να Κάνουμε;
Οι ερευνητές προτείνουν αρκετές προσεγγίσεις για την αντιμετώπιση αυτού του προβλήματος:
Τα μητρώα DOI θα μπορούσαν να εφαρμόσουν ελέγχους επαλήθευσης που να επισημαίνουν ύποπτα μοτίβα — όπως εκατοντάδες εργασίες από περιοδικά που δεν υπάρχουν, ή ονόματα συγγραφέων που εμφανίζονται με αδύνατη συχνότητα σε άσχετες δημοσιεύσεις.
Οι developers μοντέλων AI θα μπορούσαν να παρακολουθούν και να ελέγχουν τα μοτίβα δημιουργίας ονομάτων τους πιο προσεκτικά, μειώνοντας ενδεχομένως την απομνημόνευση συγκεκριμένων συνδυασμών ονομάτων.
Τα ακαδημαϊκά ιδρύματα και οι εκδότες θα μπορούσαν να εφαρμόσουν αυστηρότερη επαλήθευση πριν αποδεχτούν εργασίες, συμπεριλαμβανομένης της επαλήθευσης ταυτότητας συγγραφέα.
Θα μπορούσαν να αναπτυχθούν εργαλεία ανίχνευσης για την αναγνώριση περιεχομένου με ονόματα-φαντάσματα βάσει των χαρακτηριστικών σημείων που εντόπισαν οι ερευνητές.
Για developers που χτίζουν εφαρμογές που αλληλεπιδρούν με περιεχόμενο AI, το μάθημα είναι ξεκάθαρο: αντιμετώπισε τις εξόδους της AI με την κατάλληλη δυσπιστία και ενσωμάτωσε επαλήθευση στις ροές εργασίας σου. Μην υποθέτεις ότι περιεχόμενο που φαίνεται επαγγελματικό δημιουργήθηκε απαραίτητα από επαγγελματία.
Η Μεγαλύτερη Εικόνα
Αυτή η έρευνα είναι μια συναρπαστική ματιά στο αναδυόμενο πεδίο της εγκληματολογίας AI — τη μελέτη δηλαδή του πώς τα συστήματα AI αφήνουν ίχνη της συμπεριφοράς τους που μπορούν να εντοπιστούν και να αναλυθούν. Καθώς το περιεχόμενο AI γίνεται πανταχού παρόν, αυτά τα ίχνη γίνονται ολοένα πιο σημαντικά για τη διατήρηση της εμπιστοσύνης και της αυθεντικότητας.
Για την τεχνολογική κοινότητα, είναι υπενθύμιση ότι βρισκόμαστε ακόμα στα πρώιμα στάδια κατανόησης του πώς συμπεριφέρονται αυτά τα συστήματα σε κλίμακα. Το φαινόμενο των ονομάτων-φαντασμάτων είναι ένα μόνο παράδειγμα των απροσδόκητων μοτίβων που αναδύονται όταν εκατομμύρια άνθρωποι αρχίζουν να χρησιμοποιούν τα ίδια εργαλεία AI. Θα υπάρξουν κι άλλες εκπλήξεις μπροστά μας.
Πώς βλέπεις εσύ αυτό το φαινόμενο των ονομάτων-φαντασμάτων; Σε ανησυχεί η μόλυνση του ακαδημαϊκού και ψηφιακού οικοσυστήματος από περιεχόμενο AI; Θα θέλαμε πολύ να ακούσουμε την άποψή σου.
Έχεις ερωτήσεις σχετικά με την ανάπτυξη με AI assistance ή το πώς να χτίσεις μια αξιόπιστη ψηφιακή παρουσία; Ρίξε μια ματιά στις λύσεις vibe hosting της NameOcean, σχεδιασμένες για την εποχή της AI.