Σε μια εποχή όπου η Τεχνητή Νοημοσύνη (AI) εξελίσσεται με ραγδαίους ρυθμούς, η Anthropic, μια από τις κορυφαίες παγκοσμίως εταιρείες του κλάδου, θέτει σοβαρά ζητήματα σχετικά με την ανάγκη επιβράδυνσης αυτής της ανάπτυξης. Η προειδοποίηση έρχεται σε μια συγκυρία όπου τα πλέον εξελιγμένα μοντέλα AI μπορεί σύντομα να αποκτήσουν τη δυνατότητα αυτοβελτίωσης χωρίς ανθρώπινη παρέμβαση, κάτι που ενδέχεται να έχει σοβαρές επιπτώσεις για την κοινωνία μας.
Όπως αναφέρθηκε σε πρόσφατη ανάρτηση της εταιρείας, η οποία δημοσιεύθηκε την Πέμπτη (4/6), η δυνατότητα να ελέγξουμε και να επιβραδύνουμε την ανάπτυξη της AI θα μπορούσε να αποδειχθεί «ωφέλιμη για τον κόσμο». Το κείμενο, το οποίο υπογράφουν η Μαρίνα Φαβάρο, επικεφαλής του ερευνητικού τμήματος της Anthropic, και ο συνιδρυτής Τζακ Κλαρκ, τονίζει το φαινόμενο της «αναδρομικής αυτοβελτίωσης» (recursive self-improvement) των AI μοντέλων. Αυτό αφορά το σημείο όπου τα συστήματα τεχνητής νοημοσύνης θα μπορούν να εξελίσσονται μόνα τους, χωρίς την ανάγκη ανθρώπινης καθοδήγησης.
Για αρκετούς ειδικούς στο πεδίο της τεχνολογίας, αυτή η πρόοδος φανερώνει πιθανά σοβαρά κοινωνικά προβλήματα, καθώς η δυνατότητα αυτοαναβάθμισης των AI θα μπορούσε να σηματοδοτήσει έναν αγώνα εξοπλισμού αντίστοιχο με αυτόν που έχει παρατηρηθεί στο παρελθόν στους τομείς της αμυντικής τεχνολογίας.
«Πιστεύουμε ότι θα ήταν θετικό να εξεταστεί σοβαρά το ενδεχόμενο να επιβραδύνουμε ή ακόμα και να παγώσουμε την ανάπτυξη των πιο εξελιγμένων συστημάτων AI», αναφέρουν οι συντάκτες. Αυτό, όπως τονίζουν, μπορεί να δώσει την ευκαιρία στους κοινωνικούς θεσμούς και την επιστημονική κοινότητα να προχωρήσουν σε έρευνες σχετικά με την ασφάλεια και την ευθυγράμμιση αυτών των τεχνολογιών με τις ανθρώπινες αξίες.
Η πρόταση της Anthropic περιλαμβάνει τη δημιουργία μιας διεθνούς συμφωνίας για μια συντονισμένη επιβράδυνση της ανάπτυξης, κάτι που θα απαιτούσε τη συνεργασία του παγκόσμιου κλάδου της τεχνολογίας προκειμένου να διασφαλιστεί ότι όλοι οι συμμετέχοντες τηρούν τους ίδιους κανόνες.
Παρά τις ανησυχίες, η Anthropic διευκρινίζει ότι η πλήρης αυτοβελτίωση της AI δεν έχει επιτευχθεί ακόμη, αλλά είναι πιθανό να συμβεί νωρίτερα απ’ ότι οι περισσότερες κυβερνήσεις και θεσμοί έχουν προετοιμαστεί να διαχειριστούν.
Αυτή η δήλωση αποκτά ακόμη μεγαλύτερη σημασία όταν σκεφτούμε τη θέση της Anthropic ως βασικού παίκτη στην παγκόσμια κούρσα της AI, ανταγωνιζόμενη άμεσα την OpenAI, δημιουργό του ChatGPT. Εν τω μεταξύ, η πρόσφατη χρηματοδότηση της Anthropic έχει ανεβάσει την αξία της κοντά στο 1 τρισεκατομμύριο δολάρια, με ετήσια έσοδα που αναμένονται να φτάσουν τα 50 δισεκατομμύρια δολάρια μέχρι το τέλος του μήνα.
Όμως, οι προτάσεις της εταιρείας δεν έμειναν χωρίς κριτική. Κάποιοι υποστηρίζουν ότι οι κινήσεις αυτές στοχεύουν στην επιβράδυνση των ανταγωνιστών της, ενώ άλλοι θεωρούν ότι οι προειδοποιήσεις για τις επικίνδυνες πτυχές της AI είναι εν μέρει στρατηγική μάρκετινγκ.
Παρ’ όλα αυτά, ο καθηγητής Ίθαν Μόλικ από το Πανεπιστήμιο της Πενσιλβάνια εκφράζει την άποψη ότι οι περισσότερες ανησυχίες στην Anthropic είναι ειλικρινείς. «Υπάρχει ένας συνδυασμός επιχειρηματικών κινήτρων και ανθρώπινων ανησυχιών για το μέλλον», αναφέρει.
Η συζήτηση γύρω από την Τεχνητή Γενική Νοημοσύνη (AGI) παραμένει ιδιαίτερα διχαστική. Κάποιοι επιστήμονες, όπως ο Γιαν ΛεΚούν της Meta, πιστεύουν ότι οι τρέχουσες AI δυνατότητες δεν θα μπορέσουν ποτέ να φτάσουν σε ανθρώπινα επίπεδα νοημοσύνης, ενώ άλλοι, όπως ο Ντάριο Αμοντέι της Anthropic, προβλέπουν ότι ισχυρές AI θα μπορούσαν να φέρουν επανάσταση σε κοινωνικές και οικονομικές δομές.
Αξιοσημείωτο είναι το γεγονός ότι ο Αμοντέι έχει προειδοποιήσει ότι οι συνέπειες από την ανάπτυξη AI μπορεί να περιλαμβάνουν την αύξηση ανισοτήτων και την απομάκρυνση πολλών θέσεων εργασίας. Από την άλλη, ο Κλαρκ θεωρεί ότι η αναδρομική αυτοβελτίωση θα μπορούσε να γίνει πραγματικότητα μέσα στα επόμενα δύο χρόνια.
Η επόμενη πορεία φαίνεται απαιτεί έναν παγκόσμιο συντονισμό, καθώς όπως αναφέρει η Anthropic, η κατάσταση θυμίζει μια ανεξέλεγκτη κούρσα εξοπλισμών. Αν οι χώρες και οι εταιρείες συνεχίσουν να αναπτύσσουν AI έργα χωρίς συντονισμό, η τεχνολογία μπορεί να επηρεάσει την ανθρωπότητα με τρόπο που δεν είμαστε προετοιμασμένοι να διαχειριστούμε.
Η εταιρεία έχει ήδη σχεδιάσει να συνεργαστεί με ακαδημαϊκούς και πολιτικούς φορείς, προκειμένου να εξεταστούν οι δυνατότητες του συντονισμού της ανάπτυξης και οι κανόνες που θα εξασφαλίσουν τις ίσες ευθύνες και υποχρεώσεις.
Όπως παραδέχεται η ίδια η Anthropic, η υλοποίηση αυτών των προτάσεων θα είναι δύσκολη. «Οι διαδικασίες εκπαίδευσης των μοντέλων είναι πολύ πιο δύσκολο να ελεγχθούν από ότι οι διαδικασίες του πυρηνικού εξοπλισμού», καταλήγουν οι υπεύθυνοι της Anthropic, τονίζοντας ότι η επιτυχία απαιτεί συλλογική κατανόηση και προετοιμασία.
## Η άποψη του TechNoid.gr
Στον τεχνολογικό κόσμο, οι προειδοποιήσεις της Anthropic δεν μπορούν να αγνοηθούν. Η ανάγκη για υπεύθυνη ανάπτυξη της AI είναι επιτακτική, καθώς οι κοινωνικές επιπτώσεις είναι ήδη ορατές. Αναμένουμε τις εξελίξεις, αλλά θεωρούμε ότι η συνεργασία των κυβερνήσεων και των εταιρειών είναι κρίσιμη για την επόμενη φάση της τεχνητής νοημοσύνης. Πρέπει να υπάρξει ένας εξισορροπημένος σχεδιασμός, ώστε να προστατεύσουμε τη κοινωνία χωρίς να περιορίσουμε τη τεχνολογική πρόοδο.
