Η άβολη αλήθεια για την Τεχνητή Νοημοσύνη και τη βιοτρομοκρατία: Γιατί πρέπει να συζητήσουμε για σενάρια καταστροφής που δημιουργούνται με «vibe coding»

Ας είμαστε ειλικρινείς για μια στιγμή. Η τεχνολογική βιομηχανία λατρεύει τις καλές αφηρημένες έννοιες. Μπορούμε να ξοδέψουμε χρόνια συζητώντας το αν η Τεχνητή Νοημοσύνη θα επιτύχει συνείδηση, αν τα μεγάλα γλωσσικά μοντέλα «πραγματικά» κατανοούν τα πράγματα ή αν η Γενική Τεχνητή Νοημοσύνη (AGI) θα εμφανιστεί έως το 2027 ή το 2035. Αυτά είναι συναρπαστικά φιλοσοφικά ερωτήματα. Είναι επίσης, αν το σκεφτεί κανείς, ένας βολικός τρόπος για να αποφύγουμε να μιλήσουμε για τους συγκεκριμένους, βραχυπρόθεσμους κινδύνους που ήδη υλοποιούνται.

Ορίστε ένα σενάριο που με κρατά ξύπνιο τη νύχτα: Ένα άτομο με μέτρια νοημοσύνη και χωρίς εξειδικευμένες γνώσεις βιολογίας χρησιμοποιεί ένα μοντέλο ΤΝ που έχει παραβιαστεί (jailbroken) για να σχεδιάσει και να συνθέσει παθογόνα. Τα απελευθερώνει σε δημόσιο χώρο. Μέσα σε μήνες, ο πολιτισμός όπως τον γνωρίζουμε αρχίζει να καταρρέει.

Σας φαίνεται υπερβολικό; Δεν θα έπρεπε. Και αυτό ακριβώς το κάνει τρομακτικό.

Το Πρόβλημα της Πρόσβασης Υπάρχει Ήδη

Θέλουμε να πιστεύουμε ότι η επικίνδυνη βιολογία απαιτεί ακριβά εργαστήρια, εξειδικευμένες γνώσεις και χρόνια εκπαίδευσης. Αλλά αυτό το εμπόδιο διαβρώνεται γρηγορότερα από ό,τι συνειδητοποιούν οι περισσότεροι. Υπάρχουν συνθετές DNA επιτραπέζιας χρήσης. Διαδικτυακά βιοεργαστήρια συνθέτουν γενετικό υλικό για οποιονδήποτε διαθέτει πιστωτική κάρτα. Η γνώση του πώς λειτουργούν τα παθογόνα είναι ελεύθερα διαθέσιμη σε ακαδημαϊκή βιβλιογραφία που υπάρχει εδώ και δεκαετίες.

Τώρα προσθέστε την ΤΝ σε αυτή την εξίσωση. Όχι καν αιχμή της τεχνολογίας—απλά μοντέλα που υπάρχουν σήμερα. Ένα αρκετά motivated άτομο με decent δεξιότητες prompting μπορεί να χρησιμοποιήσει αυτά τα εργαλεία για να:

• Σχεδιάσει νέους ιικούς κατασκευασμένους τύπους με αυξημένη μεταδοτικότητα
• Εντοπίσει ευπάθειες στα βιολογικά αμυντικά συστήματα
• Μοντελοποιήσει δομές πρωτεϊνών για στοχευμένες θεραπείες—ή στοχευμένα όπλα
• Παρακάμψει τα ηθικά φραγμούς που έχουν ενσωματώσει οι υπεύθυνοι προγραμματιστές

Το χάσμα μεταξύ «η γνώση υπάρχει» και «η γνώση είναι εφαρμόσιμη» κλείνει ραγδαία. Και η ΤΝ είναι η γέφυρα.

Το Κενό Ευθυγράμμισης για το Ποιο Κανείς Δεν Μιλάει

Αυτό που με εκνευρίζει στις περισσότερες συζητήσεις για την ασφάλεια της ΤΝ είναι ότι εστιάζουν σε αφηρημένα προβλήματα ευθυγράμμισης, αγνοώντας την πρακτική πραγματικότητα ότι η ευθυγράμμιση και η ασφάλεια είναι διαφορετικά πράγματα. Ένα μοντέλο μπορεί να είναι τέλεια ευθυγραμμισμένο στο να «κάνει ό,τι θέλουν οι χρήστες», ενώ ταυτόχρονα επιτρέπει καταστροφική κατάχρηση. Αυτό δεν είναι σφάλμα—είναι χαρακτηριστικό του τρόπου με τον οποίο σχεδιάζονται αυτά τα συστήματα.

Τα μοντέλα που έχουν παραβιαστεί δεν έχουν φραγμούς ασφαλείας. Αλλά έχουν ακόμα ικανότητες. Και ορίστε η δυσάρεστη αλήθεια: αυτές οι ικανότητες αυξάνονται γρηγορότερα από την ικανότητά μας να εφαρμόζουμε ουσιαστικά μέτρα προστασίας. Χτίζ