Σύνταξη – επιμέλεια: Στέλιος Βασιλούδης
Ο χώρος της τεχνητής νοημοσύνης βρίσκεται σε αναβρασμό έπειτα από τις πρόσφατες δηλώσεις της Anthropic σχετικά με το νέο μοντέλο της, το Claude Mythos. Σύμφωνα με την εταιρεία, το συγκεκριμένο εργαλείο έχει ήδη αποδείξει την ικανότητά του να ξεπερνά ανθρώπινες επιδόσεις σε εργασίες hacking και κυβερνοασφάλειας. Αυτή η ανακάλυψη έχει προκαλέσει έντονες συζητήσεις από κυβερνητικούς φορείς και χρηματοπιστωτικά ιδρύματα, που ανησυχούν για τις πιθανές επιπτώσεις στη διαδικτυακή ασφάλεια.
Το Mythos αποκτά πρόσβαση από σημαντικούς τεχνολογικούς κολοσσούς μέσω ενός project που ονομάζεται Project Glasswing, το οποίο έχει σχεδιαστεί για την ενίσχυση της κυβερνοασφάλειας. Ωστόσο, έχουν διατυπωθεί ανησυχίες ότι η Anthropic μπορεί να προβάλλει υπερβολικούς ισχυρισμούς για τις δυνατότητες του εργαλείου, κάτι που εγείρει ερωτήματα σχετικά με την επιρροή της διαφήμισης στον τομέα της τεχνητής νοημοσύνης.
Τι είναι το Claude Mythos;
Το Mythos αποτελεί μία από τις τελευταίες προσθήκες στη σειρά μοντέλων της Anthropic, που περιλαμβάνει την οικογένεια Claude. Στόχος του είναι να ανταγωνιστεί τους βοηθούς τεχνητής νοημοσύνης, όπως το ChatGPT της OpenAI και το Gemini της Google. Πρωτοπαρουσιάστηκε στην αγορά στις αρχές Απριλίου ως «Mythos Preview».
Ειδικοί που έχουν ασχοληθεί με τη δοκιμή του Mythos ανέφεραν ότι η απόδοσή του σε ζητήματα κυβερνοασφάλειας είναι εντυπωσιακή. Έχει τη δυνατότητα να εντοπίζει σφάλματα στον κώδικα, ακόμη και αν αυτά παραμένουν ανενεργά για πολλούς μήνες ή και χρόνια, προτείνοντας επιπλέον τρόπους για την εκμετάλλευσή τους.
Προκειμένου να διασφαλιστεί η χρήση του Mythos για θετικούς σκοπούς, η Anthropic έχει περιορίσει την πρόσβαση σε συγκεκριμένες εταιρείες μέσω του Project Glasswing, το οποίο αποσκοπεί στην ασφάλεια κρίσιμων λογισμικών. Ανάμεσα στους εταίρους περιλαμβάνονται μεγάλες εταιρείες όπως η Amazon Web Services, η Apple, η Microsoft και η Google.
Για ποιο λόγο υπάρχουν ανησυχίες;
Καθώς οι δοκιμές του Mythos προχωρούν, η Anthropic ισχυρίζεται ότι το μοντέλο έχει εντοπίσει χιλιάδες σοβαρές ευπάθειες, ένα γεγονός που έχει προκαλέσει αγωνία σε υπουργούς Οικονομικών και κεντρικούς τραπεζίτες. Η αυξανόμενη τεχνολογία της τεχνητής νοημοσύνης μπορεί να υπερβεί παραδοσιακές διαδικασίες προστασίας των συστημάτων, σύμφωνα με τους ειδικούς.
«Το Mythos Preview μπορεί να εντοπίσει ευπάθειες που υπάρχουν επί 27 έτη και να προτείνει εκμεταλλεύσεις», δήλωσε η Anthropic, προκαλώντας ανησυχίες σχετικά με την ασφάλεια των χρηματοπιστωτικών φορέων.
Ο Καναδός υπουργός Οικονομικών, Francois-Philippe Champagne, χαρακτήρισε την τεχνολογία του Mythos «άγνωστο άγνωστο» και δήλωσε ότι έχει συζητηθεί σε πρόσφατη συνεδρίαση του Διεθνούς Νομισματικού Ταμείου. Οκρρείδιος της Τράπεζας της Αγγλίας, Andrew Bailey, εξέφρασε την ανάγκη για προσεκτική εξέταση των επιπτώσεων της τεχνητής νοημοσύνης στην κυβερνοασφάλεια.
Ειδικοί για την κυβερνοασφάλεια και οι απόψεις τους
Ο πρώην επικεφαλής του Εθνικού Κέντρου Κυβερνοασφάλειας του Ηνωμένου Βασιλείου, Ciaran Martin, αναγνώρισε ότι το Mythos έχει τη δυνατότητα να αποκαλύπτει σοβαρές ευπάθειες πιο γρήγορα από άλλα μοντέλα τεχνητής νοημοσύνης. Ωστόσο, οι αναλυτές στον τομέα της κυβερνοασφάλειας παραμένουν επιφυλακτικοί, καθώς πολλοί δεν έχουν καταφέρει να δοκιμάσουν το μοντέλο οι ίδιοι και αισθάνονται ότι η αγωνία γύρω από αυτό ενδεχομένως να είναι υπερβολική.
Μια πρόσφατη μελέτη του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου εστίασε στα ζητήματα που ανακύπτουν: αν το Mythos μπορεί να επιτεθεί σε καλά προστατευμένα συστήματα ή αν οι πιο ευάλωτοι τομείς είναι αυτοί που θα λάβουν τις μεγαλύτερες πλήγματα.
Πρέπει να ανησυχούμε;
Οι ανησυχίες για την τεχνητή νοημοσύνη δεν είναι καινούριες. Νέα εργαλεία και τεχνολογίες έρχονται συνεχώς στην επιφάνεια, και πολλές από αυτές συνδυάζονται με υποσχέσεις για επανάσταση στη ζωή μας. Αυτό καθιστά την αξιολόγηση των κινδύνων και των ωφελειών περίπλοκη. Στην περίπτωση του Mythos, οι φόβοι και οι ελπίδες είναι αμφίβολες, και η αλήθεια είναι ότι δεν έχουμε αρκετά δεδομένα για να καθορίσουμε ποιες είναι δικαιολογημένες.
Ωστόσο, σύμφωνα με κορυφαίους εμπειρογνώμονες στην κυβερνοασφάλεια, η εστίαση πρέπει να παραμείνει στα βασικά μέτρα ασφάλειας. Η περισσότερη κυβερνοεπίθεση δε χρειάζεται εκτενή εργαλεία τεχνητής νοημοσύνης για να διεξαχθεί, καθώς συνήθως αρκούν πιο απλές τεχνικές. «Για ορισμένους, αυτό είναι μια αποκάλυψη, για άλλους, μοιάζει με μεγάλη διαφήμιση», δήλωσε ο Martin στο BBC.
Ωστόσο, η υπεύθυνη χρήση αυτών των εργαλείων μπορεί να οδηγήσει σε υγιείς προσεγγίσεις για την ασφάλεια στο διαδίκτυο. Με την κατάλληλη στρατηγική, υπάρχει η προοπτική να χρησιμοποιηθούν αυτά τα μοντέλα για την αναθεώρηση και τη θεραπεία πολλών ευπαθειών που παραμένουν στο διαδίκτυο.
Πηγή: BBC News
## Η άποψη του TechNoid.gr
Η πρόσφατη ανάπτυξη του Claude Mythos από την Anthropic ενδεχομένως να έχει καθοριστικές επιπτώσεις για τον τομέα της κυβερνοασφάλειας. Η δυνατότητά του να εντοπίζει ευπάθειες σε συστήματα θέτει προκλήσεις που απαιτούν προσεκτική προσέγγιση από τις κυβερνήσεις και τη βιομηχανία. Ενώ ο ενθουσιασμός γύρω από την τεχνητή νοημοσύνη είναι εμφανής, η πραγματικότητα ενέχει και τους δικούς της κινδύνους. Η μελλοντική επιτυχία θα εξαρτηθεί από την ικανότητα των οργανισμών να υιοθετήσουν ασφαλείς πρακτικές και να εκπαιδεύσουν τους χρήστες στην σωστή διαχείριση αυτών των εργαλείων.
