- Το νέο μοντέλο Astra της OpenAI έλυσε 10 εκκρεμή μαθηματικά προβλήματα δεκαετιών, αλλάζοντας τα δεδομένα στην έρευνα.
- Η ανάπτυξή του επιβραδύνθηκε προσωρινά εξαιτίας “κρίσιμων” δυνατοτήτων κυβερνοασφάλειας και παραγωγής zero-day exploits.
- Ειδικοί επισημαίνουν ότι τα επιτεύγματα αυτά αφορούν κυρίως έξυπνα counterexamples και δεν υποκαθιστούν ακόμα την ανθρώπινη επιστημονική σκέψη.
Μαθηματικά και zero-day exploits
Όταν ένα τεχνητό μυαλό λύνει προβλήματα κβαντικής πολυπλοκότητας και lattice cryptography, η είδηση ξεπερνά τα στενά όρια της Silicon Valley. Σύμφωνα με επίσημη ανακοίνωση από το blog της OpenAI, μια εσωτερική έκδοση του νέου μοντέλου Astra κατάφερε να δώσει λύσεις σε δέκα μνημειώδη ανοιχτά μαθηματικά προβλήματα.
Το πρόβλημα δεν είναι μόνο η μαθηματική του δεινότητα, αλλά το γεγονός ότι οι δυνατότητες αυτές συνοδεύονται από επικίνδυνα επίπεδα στην κυβερνοασφάλεια. Όπως αναφέρεται στο Preparedness Framework update της OpenAI, το μοντέλο πέρασε τα όρια επικινδυνότητας λόγω της ευκολίας με την οποία μπορεί να εντοπίσει και να αναπτύξει λειτουργικά zero-day exploits σε πραγματικά συστήματα.
Αυτή ακριβώς η διπλή φύση —επιστημονική μεγαλοφυΐα από τη μία, αυτοματοποιημένο hacking από την άλλη— ανάγκασε την εταιρεία να πατήσει φρένο. Η παρακολούθηση του Chain of Thought και τα αυστηρότερα sandboxes είναι πλέον μονόδρομος πριν δούμε οτιδήποτε στην αγορά, όπως σημειώνει και το σχετικό ρεπορτάζ του Bleeping Computer.
Ο παράγοντας της επιστήμης
Πόσο κοντά βρισκόμαστε όμως στην τεχνητή γενική νοημοσύνη (AGI) με βάση αυτά τα επιτεύγματα; Η απάντηση είναι πιο προσγειωμένη από όσο νομίζεις. Μιλώντας αποκλειστικά για το ζήτημα, ο καθηγητής του Columbia Andrew Blumberg εξήγησε στο First Proof project ότι τέτοιες λύσεις βασίζονται κυρίως σε εξαιρετικά ευφυή counterexamples.
Αυτό σημαίνει πως το Astra δεν ανακάλυψε εκ νέου τη θεμελιώδη φυσική, αλλά έψαξε ταχύτατα μέσα σε έναν τεράστιο όγκο δεδομένων για να βρει κομψές κατασκευές που βασίζονται σε ήδη γνωστά θεωρήματα. Όπως εύστοχα σχολίασε ο γνωστός data scientist Nate Silver, αν διοχετεύαμε τρισεκατομμύρια δολάρια για να πληρώσουμε κορυφαίους μαθηματικούς με μισθούς αθλητών, τα αποτελέσματα θα ήταν εξίσου εντυπωσιακά.
Στο TechNoid καλύπτουμε συχνά την εξέλιξη των δικτύων και των υποδομών, και μπορείς να διαβάσεις περισσότερα για το πώς οι αλγόριθμοι αλλάζουν το τοπίο στην ανάλρση δεδομένων στο άρθρο μας για τις έξυπνες υποδομές δικτύων.
Το μέλλον της κυκλοφορίας
Το μεγάλο ερώτημα παραμένει πότε και αν θα δούμε το Astra διαθέσιμο στο ευρύ κοινό. Οι γεωπολιτικές πιέσεις παίζουν πλέον καθοριστικό ρόλο, καθώς σύμφωνα με ρεπορτάζ των New York Times, η αμερικανική κυβέρνηση ετοιμάζει αυστηρό πλαίσιο αξιολόγησης για τα μοντέλα αιχμής.
Παράλληλα, πληροφορίες από το The Information δείχνουν ότι η OpenAI κάνει ήδη κλειστές παρουσιάσεις του μοντέλου στην Ουάσιγκτον. Αν τελικά οι αρχές το κατατάξουν στην κατηγορία “critical risk”, ενδέχεται να μην το δούμε ποτέ στην εμπορική του μορφή, ακολουθώντας την πορεία άλλων επικίνδυνων πρότζεκτ.
Η άποψή μας στο TechNoid
Στο TechNoid δεν μασάμε τα λόγια μας: όλη αυτή η ιστορία γύρω από τις “επικίνδυνες” ικανότητες του Astra έχει έντονη μυρωδιά έξυπνου PR. Οι εταιρείες τεχνητής νοημοσύνης χρησιμοποιούν το αφήγημα της ανεξέλεγκτης απειλής ως ασπίδα απέναντι στις ρυθμιστικές αρχές και ταυτόχρονα ως εργαλείο marketing. Ναι, το Astra είναι τεχνολογικά προηγμένο και οι δυνατότητές του στα μαθηματικά είναι αξιοθαύμαστες. Όμως, το να παρουσιάζονται τα counterexamples ως προάγγελος της αποκάλυψης εξυπηρετεί περισσότερο τους επενδυτές παρά την επιστημονική αλήθεια. Αν ήμασταν στη θέση της OpenAI, θα εστιάζαμε στην ασφάλεια παραγωγής κώδικα αντί να δραματοποιούμε δυνατότητες που απλά αυτοματοποιούν την παραδοσιακή έρευνα.
Συχνές Ερωτήσεις για το μοντέλο OpenAI Astra
Τι είναι το μοντέλο OpenAI Astra;
Είναι το επόμενο μεγάλο μοντέλο τεχνητής νοημοσύνης της OpenAI, σχεδιασμένο να επιλύει σύνθετα προβλήματα μαθηματικών και να εκτελεί προηγμένες εργασίες κυβερνοασφάλειας.
Γιατί καθυστερεί η κυκλοφορία του Astra;
Η ανάπτυξή του επιβραδύνθηκε προσωρινά επειδή εντοπίστηκαν δυνατότητες παραγωγής zero-day exploits, κάτι που το κατατάσσει σε υψηλό επίπεδο κινδύνου βάσει του Preparedness Framework.
Ποια μαθηματικά προβλήματα έλυσε το Astra;
Έλυσε δέκα σημαντικά ανοιχτά προβλήματα στη θεωρητική επιστήμη υπολογιστών και στα μαθηματικά, κυρίως μέσω εξειδικευμένων αντιπαραδειγμάτων (counterexamples).
Θα κυκλοφορήσει τελικά στο κοινό;
Δεν υπάρχει επίσημη ημερομηνία κυκλοφορίας, και λόγω των αυστηρών ελέγχων από κυβερνητικούς φορείς, υπάρχει πιθανότητα να μην διατεθεί ποτέ στην αρχική του μορφή.
Ποιος είναι ο ρόλος της αμερικανικής κυβέρνησης στο Astra;
Η κυβέρνηση ετοιμάζει αυστηρά πλαίσια ελέγχου για frontier models, και η OpenAI συνεργάζεται μαζί της για την ασφαλή αξιολόγηση του μοντέλου.
Είναι το Astra ικανό να αντικαταστήσει τους επιστήμονες;
Όχι, σύμφωνα με ειδικούς δεν πρόκειται για γενική τεχνητή νοημοσύνη που δημιουργεί πρωτογενή γνώση, αλλά για ένα εξαιρετικά ισχυρό εργαλείο ανάλυσης και έρευνας.
Πού βασίζονται οι αναφορές για τις δυνατότητες hacking του Astra;
Βασίζονται σε επίσημες ανακοινώσεις και αναφορές ασφαλείας της ίδιας της OpenAI σχετικά με τα όρια κινδύνου στον κυβερνοχώρο.
