Η εταιρεία Anthropic, γνωστή για την ανάπτυξη μοντέλων τεχνητής νοημοσύνης, ανακοίνωσε χθες ότι αναστέλλει τη λειτουργία των μοντέλων «Fable 5» και «Mythos 5» για όλους τους χρήστες. Η απόφαση αυτή προήλθε από αυστηρές οδηγίες που εξέδωσε η κυβέρνηση των Ηνωμένων Πολιτειών σχετικά με έλεγχο εξαγωγών.
Η κυβέρνηση των ΗΠΑ, δια του Bureau of Industry and Security, έχει επιβάλει αυστηρούς περιορισμούς στην εξαγωγή προηγμένων μοντέλων τεχνητής νοημοσύνης (γνωστά και ως frontier models) και αναπτυξιακών τσιπ, όπως αυτά της Nvidia, προς συγκεκριμένες χώρες (π.χ. Κίνα, Ιράν και Ρωσία) για λόγους εθνικής ασφάλειας.
Σύμφωνα με την Anthropic, η κυβέρνηση θεωρεί ότι έχει εντοπιστεί τρόπος «jailbreak», που επιτρέπει την παράκαμψη των ασφαλιστικών δικλείδων του Fable 5. Η εταιρεία τόνισε ότι η πρόσβαση σε όλα τα υπόλοιπα μοντέλα τεχνητής νοημοσύνης δεν θα υποστεί καμία αλλαγή.
- Σύμφωνα με ανακοίνωση της εταιρείας, τα ζητήματα που εντόπισε η κυβέρνηση ήταν ήδη γνωστά και χαρακτηρίστηκαν ως «μικρής σημασίας», με την εκτίμηση ότι παρόμοια προβλήματα υπάρχουν και σε άλλα δημόσια μοντέλα τεχνητής νοημοσύνης.
Ο εκπρόσωπος της Anthropic επεσήμανε ότι προτού κυκλοφορήσει το Fable 5, η εταιρεία αφιέρωσε πολλές ώρες στη δοκιμή των συστημάτων ασφαλείας, σε συνεργασία με τις αρμόδιες αρχές των ΗΠΑ και άλλες ομάδες, χωρίς να έχουν εντοπιστεί σοβαρές παραβιάσεις.
Ωστόσο, η κυβέρνηση παρείχε μόνο προφορικές πληροφορίες σχετικά με μια περιορισμένη μέθοδο παράκαμψης, η οποία «ζητά από το μοντέλο να διαβάσει μια συγκεκριμένη βάση κώδικα και να διορθώσει τυχόν σφάλματα». Η Anthropic εξέτασε μια σχετική έκθεση και διαπίστωσε ότι αυτή η δυνατότητα είναι ήδη διαθέσιμη και σε άλλα μοντέλα της αγοράς, όπως το GPT-5.5 της OpenAI, το οποίο χρησιμοποιείται καθημερινά από επαγγελματίες στον τομέα της ασφάλειας.
Jailbreak και οι επιπτώσεις του
Η Anthropic τόνισε ότι, κατά την εκτίμησή της, η απόλυτη προστασία από παρακάμψεις ασφαλείας δεν είναι εφικτή σε καμία εταιρεία που αναπτύσσει μοντέλα τεχνητής νοημοσύνης.
Αν και προτίθεται να συμμορφωθεί με τις εντολές της κυβέρνησης, η εταιρεία εξέφρασε την αντίθεσή της σχετικά με την απόσυρση ενός εμπορικού μοντέλου που χρησιμοποιεί εκατομμύρια χρήστες σε όλο τον κόσμο, επισημαίνοντας ότι μια τέτοια απόφαση θα αναστέλλει την πρόοδο στον τομέα αναπτύξεων μοντέλων.
Η Anthropic έκλεισε την ανακοίνωσή της δηλώνοντας ότι πρόκειται να εργαστεί για την άμεση αποκατάσταση της πρόσβασης στα μοντέλα και ότι οι σχετικές διαδικασίες είναι σε εξέλιξη.
Πηγή: skai.gr
