Η Anthropic, μία από τις κορυφαίες εταιρείες στον τομέα της τεχνητής νοημοσύνης, ανακοίνωσε την Πέμπτη (4/6) την πρότασή της για προσωρινό σταμάτημα της ανάπτυξης των πιο προηγμένων AI συστημάτων σε παγκόσμιο επίπεδο. Δηλώνει ότι τα τελευταία μοντέλα παρουσιάζουν ανησυχητικά χαρακτηριστικά που ενδέχεται να ξεφεύγουν από τον ανθρώπινο έλεγχο.
Η επιχείρηση, η οποία εδρεύει στο Σαν Φρανσίσκο και έχει δημιουργήσει τα γνωστά μοντέλα AI Claude, επισημαίνει ότι μια γενική επιβράδυνση στην ανάπτυξη ισχυρών AI συστημάτων θα μπορούσε να προσφέρει σημαντικά οφέλη. Ωστόσο, προειδοποιεί πως αν μια μόνο εταιρεία σταματήσει, οι υπόλοιπες θα συνεχίσουν ανενόχλητες.
«Πιστεύουμε ότι θα ήταν επωφελές για τον πλανήτη αν είχαμε τη δυνατότητα να αναστείλουμε ή τουλάχιστον να επιβραδύνουμε την ανάπτυξη υψηλής τεχνολογίας AI, προκειμένου να διασφαλίσουμε ότι οι κοινωνικές μας δομές και η σχετική έρευνα προλαβαίνουν τις τεχνολογικές εξελίξεις», αναφέρει η Anthropic. Σύμφωνα με την εταιρεία, μία αληθινή παύση θα απαιτούσε τη συνεργασία μεγάλων AI εταιρειών σε πολλές χώρες, κυρίως στις Η.Π.Α. και την Κίνα.
Αυτή η πρόταση ενδέχεται να μην βρει πολλούς υποστηρικτές, καθώς ο Ίλον Μασκ, για παράδειγμα, ετοιμάζεται να εισάγει την SpaceX στο χρηματιστήριο, κάτι που θα μπορούσε να τον καταστήσει τον πρώτο τρισεκατομμυριούχο παγκοσμίως, απόρροια της συμμετοχής του στην xAI. Η Anthropic τονίζει ότι η έλλειψη ενός μηχανισμού διεθνούς συντονισμού θα μπορούσε να οδηγήσει τις εταιρείες και κυβερνήσεις σε δύσκολες αποφάσεις σχετικά με την ασφάλεια, ενώ θα υπήρχαν γεωπολιτικές πιέσεις.
Άλλες φωνές στο χώρο αντιτίθενται στις θέσεις της Anthropic, υποστηρίζοντας ότι οι ανησυχίες της για τους κινδύνους είναι υπερβολικές και ότι η πρότασή της μπορεί να υποκρύπτει στρατηγική για να μειωθεί η ανταγωνιστικότητα άλλων εταιρειών. Παράλληλα, αξιωματούχοι του Λευκού Οίκου επιβεβαιώνουν την αξιοπιστία των μοντέλων της Anthropic, όπως το Mythos, το οποίο δεν έχει ανακοινωθεί ευρέως λόγω της ισχυρής του φύσης στον τομέα της κυβερνοασφάλειας.
- Η πρόταση αναμένεται να προκαλέσει ισχυρές αντιδράσεις τόσο στην Ουάσινγκτον όσο και στη Σίλικον Βάλεϊ, με διαφωνίες σχετικά με την επίδραση που θα είχε η επιβράδυνση στην ανταγωνιστικότητα της Κίνας στην παγκόσμια τεχνολογική σκηνή.
Αξιοσημείωτο είναι ότι ο πρώην Πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει αναφερθεί στη δυνατότητα συνεργασίας με την Κίνα στα θέματα ασφάλειας της τεχνητής νοημοσύνης κατά τη διάρκεια της πρόσφατης επίσκεψής του στο Πεκίνο. Ο Τραμπ υπέγραψε επίσης ένα εκτελεστικό διάταγμα που δίνει 30 ημέρες στην κυβέρνηση για να διενεργήσει προσεκτική αξιολόγηση των ισχυρότερων μοντέλων AI των Η.Π.Α. πριν από την κυκλοφορία τους.
«Περιορισμός του ρόλου του ανθρώπου»
Η Anthropic προσπαθεί να συγκρίνει την κατάσταση με τον έλεγχο των πυρηνικών όπλων, τονίζοντας ωστόσο ότι η χρησιμοποίηση AI είναι πιο δύσκολη στην επιτήρηση. Η διαχείριση της τεχνητής νοημοσύνης, που μπορεί να «διδαχθεί» από μόνος του να εξελίσσεται, εμπεριέχει μεγάλους κινδύνους.
«Θέλουμε να έχουμε τη δυνατότητα να μειώνουμε την ταχύτητα και να ελέγχουμε την ανάπτυξη», υπογράμμισε ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, σε συνέντευξή του στο BBC. «Αυτή τη στιγμή, η βιομηχανία AI έχει μόνο το γκάζι, χωρίς φρένο». Η εταιρεία σκοπεύει να συγκεντρώσει κυβερνητικούς εκπροσώπους, επιστήμονες, υπερασπιστές και άλλες εταιρείες AI προκειμένου να μελετήσουν πώς θα μπορούσε να λειτουργήσει ένα τέτοιο σύστημα.
Η επαφή για διεθνή συντονισμό συνοδεύεται από εσωτερικά δεδομένα που δείχνουν την ταχεία ανάπτυξη της τεχνητής νοημοσύνης, με αποτέλεσμα να διαμορφώνεται ένας κύκλος ανατροφοδότησης που μπορεί να οδηγήσει σε «αναδρομική αυτοβελτίωση».
Αυτό σημαίνει ότι το AI θα μπορούσε να γίνει ικανό να αυτοδιδάσκεται και να εξελίσσεται χωρίς τη βοήθεια ανθρώπων. Η Anthropic, ωστόσο, σημειώνει ότι δεν έχουμε φτάσει ακόμη σε αυτό το επίπεδο και ότι αυτή η κατάσταση μπορεί να προκύψει νωρίτερα απ’ όσο θα μπορούσαν οι κυβερνήσεις και οι οργανισμοί να διαχειριστούν.
«Τα δεδομένα δείχνουν ότι ο ανθρώπινος ρόλος περιορίζεται σε κάθε βήμα της ανάπτυξης της τεχνητής νοημοσύνης», καταλήγει η εταιρεία.
## Η άποψη του TechNoid.gr
Η πρόταση της Anthropic για παύση της ανάπτυξης ισχυρών AI συστημάτων αναδεικνύει τα επείγοντα ζητήματα που αντιμετωπίζει η τεχνολογία σήμερα. Η ανάγκη για ασφαλή και ηθικά κατασκευασμένα AI είναι προφανής, αλλά η εφαρμογή μιας τέτοιας πολιτικής δεν είναι εύκολη υπόθεση. Κοιτώντας προς το μέλλον, θα πρέπει να δούμε πώς οι κυβερνήσεις και οι βιομηχανικές ηγέτες θα ενσωματώσουν αυτές τις ανησυχίες. Η δυνατότητα να υπάρχουν ελεγχόμενα και ασφαλή AI συστήματα θα διασφαλίσει όχι μόνο την ευημερία της τεχνολογίας αλλά και της κοινωνίας γενικότερα.
