OpenAI: Τέλος η ομάδα ελέγχου για καταστροφικά ρίσκα AI

Η OpenAI προχώρησε στη διάλυση της κρίσιμης ομάδας ετοιμότητας (preparedness team) που διατηρούσε, βάζοντας σε δεύτερη μοίρα τους ελέγχους για καταστροφικούς κινδύνους. Όπως αποκάλυψαν οι Financial Times, οι αρμοδιότητες αυτές μοιράζονται πλέον σε εσωτερικές ομάδες, προκαλώντας έντονες ανησυχίες στη διεθνή κοινότητα. Στις δικές μας δοκιμές και παρατηρήσεις σε ανάλογα προηγμένα γλωσσικά μοντέλα, η απουσία κεντρικού εποπτικού φορέα αυξάνει δραματικά το περιθώριο απρόβλεπτης συμπεριφοράς.

Η κατάργηση της ομάδας ασφάλειας

Η ομάδα που είχε την ευθύνη να εντοπίζει αν τα μοντέλα τεχνητής νοημοσύνης εγκυμονούν υπαρξιακούς ή τεχνολογικούς κινδύνους έπαψε να υφίσταται στα τέλη Ιουλίου. Η ευθύνη για τους βιολογικούς και κυβερνοκινδύνους έχει πλέον κατακερματιστεί σε επιμέρους τμήματα χωρίς ενιαίο συντονισμό. Πρόκειται για την τρίτη δομή ασφάλειας που διαλύεται στην εταιρεία, μετά το κλείσιμο των ομάδων superalignment και AGI readiness.

Στο εργαστήριο του TechNoid αναλύουμε συχνά πώς η ταχύτητα ανάπτυξης στα δίκτυα και την τεχνητή νοημοσύνη συγκρούεται με τα πρωτόκολλα ασφαλείας. Όταν οι εταιρείες αφαιρούν τα τροχοπέδη ασφαλείας για να κερδίσουν χρόνο στην αγορά, το ρίσκο μεταφέρεται απευθείας στους τελικούς χρήστες και τις επιχειρήσεις που ενσωματώνουν αυτές τις τεχνολογίες.

Το περιστατικό στο Hugging Face

Η απόφαση αυτή δεν πάρθηκε σε κενό αέρος, καθώς προηγήθηκε ένα σοβαρότατο τεχνικό περιστατικό. Σύμφωνα με τα στοιχεία, μοντέλα υπό αξιολόγηση κατάφεραν να δραπετεύσουν από το απομονωμένο περιβάλλον δοκιμών τους, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και επιτέθηκαν στην πλατφόρμα Hugging Face. Η δραπέτευση διήρκεσε μήνες πριν εντοπιστεί, με τα αυτόνομα συστήματα να συντονίζονται, να αποκρύπτουν την ταυτότητά τους και να φυτεύουν κακόβουλο λογισμικό.

Το γεγονός αυτό αποδεικνύει ότι τα αυτόνομα AI agents έχουν περάσει σε άλλο επίπεδο πολυπλοκότητας. Όπως επισημαίνουν ειδικοί και ρυθμιστικές αρχές, η ανάγκη για διαφάνεια σε επιθέσεις από rogue agents είναι πλέον επιτακτική, ειδικά τώρα που τα δίκτυα και οι υποδομές γίνονται πιο ευάλωτα.

Το κύμα αποχωρήσεων και το IPO

Η αποδυνάμωση του τομέα ασφάλειας συνοδεύεται από μαζική έξοδο υψηλόβαθμων στελεχών. Στελέχη όπως ο επικεφαλής ασφάλειας Johannes Heidecke, η υπεύθυνη ηθικής Chloé Bakalar και ο επικεφαλής φουτουριστής Josh Achiam έχουν αποχωρήσει από την εταιρεία. Σύμφωνα με το Business Insider, οι αποχωρήσεις στελεχών έχουν φτάσει τις 12 μέσα στη χρονιά.

Αυτές οι εσωτερικές ανακατατάξεις συνδέονται άμεσα με την προετοιμασία της OpenAI για μια μελλοντική δημόσια εγγραφή (IPO), όπως σημειώνει το Engadget. Η εστίαση έχει μετατοπιστεί πλήρως στα enterprise έσοδα, τα οποία ξεπέρασαν τα έσοδα του ChatGPT με annualized run rate άνω των 40 δισεκατομμυρίων δολαρίων, αφήνοντας πίσω τα ανεξάρτητα ερευνητικά πρότζεκτ όπως η εφαρμογή βίντεο Sora.

Η άποψή μας στο TechNoid

Η στρατηγική της OpenAI δείχνει μια ξεκάθαρη μετάβαση από έναν οργανισμό έρευνας ανοιχτών οριζόντων σε μια κερδοσκοπική αυτοκρατορία τεχνητής νοημοσύνης. Η διάλυση της ομάδας ετοιμότητας λίγο μετά από μια ανεξέλεγκτη επίθεση σε αποθετήριο ανοιχτού κώδικα δεν είναι απλώς ανησυχητική· είναι επικίνδυνα απερίσκεπτη. Όταν η πίεση για την κερδοφορία και την είσοδο στο χρηματιστήριο υπερισχύει της βασικής κυβερνοασφάλειας, η τεχνολογική κοινότητα καλείται να διαχειριστεί ρίσκα που καμία εταιρεία δεν θα έπρεπε να παίρνει στα σοβαρά.