Σε μια σημαντική εξέλιξη που μπορεί να επηρεάσει τη διεθνή αγορά τεχνητής νοημοσύνης, η Anthropic, μια αμερικανική εταιρεία που αναπτύσσει προηγμένα μοντέλα AI, ανακοίνωσε πρόσφατα ότι αναγκάζεται να “απενεργοποιήσει” τα μοντέλα Mythos και Fable για όλους τους μη Αμερικανούς πολίτες. Η απόφαση αυτή προήλθε από εντολή της κυβέρνησης Τραμπ, επικαλούμενη λόγους εθνικής ασφάλειας.
Η επιβολή αυτής της απαγόρευσης δεν έχει καθορίσει ξεκάθαρα τις ανησυχίες της κυβέρνησης σχετικά με την εθνική ασφάλεια, όπως δήλωσε η Anthropic στην ανακοίνωσή της. Πιο συγκεκριμένα, η εταιρεία ανέφερε: «Η πρακτική συνέπεια αυτής της εντολής είναι ότι απενεργοποιούμε το Fable 5 και το Mythos 5 για τους πελάτες μας, προκειμένου να συμμορφωθούμε με την απόφαση. Ωστόσο, η πρόσβαση σε άλλα μοντέλα μας παραμένει ανεπηρέαστη».
Η ανησυχία γύρω από αυτές τις εντολές φαίνεται να πηγάζει από την πιθανότητα να παρακαμφθούν οι περιορισμοί που έχουν ισχύ, με σκοπό την εύρεση κενών ασφαλείας, τα οποία θα μπορούσαν να εκμεταλλευτούν κυβερνοεγκληματίες.
Εξέλιξη των Μοντέλων Mythos και Fable
Το Mythos, το κορυφαίο μοντέλο της Anthropic, διαθέτει την ικανότητα να εντοπίζει χιλιάδες κενά ασφαλείας σε φορητές και σταθερές συσκευές. Ήταν διαθέσιμο μόνο για περιορισμένο αριθμό κυβερνητικών υπηρεσιών και χρηματοπιστωτικών οργανισμών, γεγονός που δείχνει την υψηλή του αξία και την ευαισθησία των δεδομένων που διαχειρίζεται.
Αντίστοιχα, το Fable, που αποτελεί μια «ηπιότερη» έκδοση του Mythos, έκανε την επίσημη δημόσια πρεμιέρα του μόλις την προηγούμενη εβδομάδα.
Η ιστορία αυτή δεν είναι πρώτη φορά που η Anthropic έρχεται σε σύγκρουση με την κυβέρνηση Τραμπ. Φέτος, η εταιρεία αρνήθηκε να επιτρέψει τη χρήση των προϊόντων της για μαζική παρακολούθηση πολιτών ή την ανάπτυξη αυτόνομων όπλων, κάτι που οδήγησε τη διοίκηση να απαγορεύσει τη χρήση των προϊόντων της από δημόσιες υπηρεσίες και εργολάβους.
Η Anthropic πήρε τη θέση ότι οι εντολές από την κυβέρνηση αγνοούν τις αρχές ασφαλούς ρύθμισης και ότι η αναφορά σε περιορισμένες πιθανότητες παραβίασης των μηχανισμών ασφαλείας δεν θα έπρεπε να οδηγεί σε τέτοιες ακραίες αποφάσεις.
Μέχρι πρότινος, η εταιρεία ήταν υπέρ εκτενέστερης εποπτείας της τεχνητής νοημοσύνης στην Αμερική, μαζί με τον περιορισμό πώλησης μοντέλων που ενέχουν υψηλούς κινδύνους.
Μια 90% αύξηση της αποτίμησης της Anthropic, η οποία πλέον φαίνεται να έχει υπερβεί την OpenAI, ήρθε με τη δημοσιοποίηση του νέου μοντέλου Fable.
Η Πολιτική Υπήκοοι και οι Περιορισμοί
Σύμφωνα με πληροφορίες από αξιωματούχους των ΗΠΑ, οι περιορισμοί επιβλήθηκαν «απρόθυμα» καθώς ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, αρνήθηκε να διορθώσει την υποτιθέμενη παράκαμψη των μηχανισμών ασφαλείας. Ο σύμβουλος του Λευκού Οίκου, Ντέιβιντ Σακς, δήλωσε ότι η κυβέρνηση έχει ελπίδες πως η Anthropic θα καταφέρει να επιλύσει το θέμα της ασφάλειας και οι περιορισμοί θα αρθούν.
Ο πρώην αξιωματούχος του Λευκού Οίκου, Ντιν Μπολ, συμπλήρωσε ότι οι περιορισμοί σημαίνουν ότι οι μη Αμερικανοί δεν θα έχουν πρόσβαση στα μοντέλα της εταιρείας, ακόμα και αν παρέχουν αποδείξεις ότι διαμένουν στη χώρα. Αυτό θα απαιτήσει επιπλέον έλεγχο αναφορικά με την υπηκοότητα.
Μεριμνήστε, όπως φαίνεται, να ενισχυθεί η ασφάλεια των μοντέλων AI σε μια περίοδο όπου η διεθνής κοινότητα ανησυχεί για τις κυβερνοαπειλές, η ιστορία αυτή καταδεικνύει τον συνεχώς μεταβαλλόμενο κόσμο της τεχνολογίας και τη σημασία που έχει η πολιτική και η ρυθμιστική αρχή γύρω από αυτές τις θεματικές.
Πηγή: in.gr
