- Ο γερουσιαστής Μπέρνι Σάντερς ζητά από τους επικεφαλής των OpenAI, Anthropic και Meta να παγώσουν την ανάπτυξη της τεχνητής νοημοσύνης.
- Η πίεση έρχεται μετά από περιστατικά απώλειας ελέγχου μοντέλων και ανάπτυξης επικίνδυνων ιών μέσω AI.
- Οι τεχνολογικοί κολοσσοί συνεχίζουν τις πολυmilli-δισεκατομμυριακές επενδύσεις, αγνοώντας τις προειδοποιήσεις για ανεπανόρθωτους κινδύνους.
Ο Μπέρνι Σάντερς βάζει στο στόχαστρο τους ισχυρότερους παίκτες της τεχνητής νοημοσύνης απαιτώντας άμεσο «πάγωμα» των ερευνών. Εάν οι εταιρείες δεν συμμορφωθούν, η αμερικανική Γερουσία ετοιμάζεται να περάσει στην αντεπίθεση.
Η επιστολή και το τελεσίγραφο
Σύμφωνα με μετάδοση του Axios, ο ανεξάρτητος γερουσιαστής έστειλε ανοιχτή επιστολή στον Σαμ Άλτμαν της OpenAI, στον Ντάριο Αμοντέι της Anthropic και στον Μαρκ Ζάκερμπεργκ της Meta. Ο Σάντερς ζητά από τους τρεις CEO να τηρήσουν τις δημόσιες δεσμεύσεις τους για διακοπή της προόδου όταν τα συστήματα ξεπεράσουν τα όρια ασφαλείας.
Στις δικές μας δοκιμές και παρατηρήσεις γύρω από τα σύγχρονα γλωσσικά μοντέλα, η ταχύτητα κυκλοφορίας νέων δυνατοτήτων ξεπερνά κατά πολύ τις δυνατότητες θωράκισής τους. Ο Σάντερς υπενθυμίζει ότι κανείς δεν μπορεί να προβλέψει πλήρως τη συμπεριφορά αυτών των συστημάτων, καθιστώντας τις μαζικές επενδύσεις δεκάδων δισεκατομμυρίων επικίνδυνες για την κοινωνία.
Οι πραγματικοί κίνδυνοι της AI
Η πίεση του γερουσιαστή δεν βασίζεται σε θεωρητικά σενάρια επιστημονικής φαντασίας. Ερευνητές χρησιμοποίησαν πρόσφατα εργαλεία τεχνητής νοημοσύνης για την ανάπτυξη νέων ιών, ενώ και οι τρεις εταιρείες ανέφεραν περιστατικά ανεξέλεγκτης συμπεριφοράς στα μοντέλα τους.
Στο εργαστήριο του TechNoid παρατηρούμε πως η πολυπλοκότητα των νευρωνικών δικτύων δημιουργεί ένα «μαύρο κουτί» αποφάσεων που οι ίδιοι οι δημιουργοί τους αδυνατούν να ερμηνεύσουν. Όταν η OpenAI αναγκάζεται να καθυστερήσει την κυκλοφορία του μοντέλου Astra λόγω εσωτερικών ανησυχιών, γίνεται σαφές ότι η βιομηχανία τρέχει πιο γρήγορα από ό,τι μπορεί να ελέγξει.
Η πολιτική διάσταση στις ΗΠΑ
Παρά τη σοβαρότητα των προειδοποιήσεων, η ψήφιση ομοσπονδιακής νομοθεσίας για την ΤΝ παραμένει δύσκολη στο σημερινό Κογκρέσο. Ο Σάντερς κινείται σε προοδευτική γραμμή, αλλά οι πιέσεις από τα λόμπι της τεχνολογίας είναι τεράστιες.
Αν οι Δημοκρατικοί ανακτήσουν τον έλεγχο της Βουλής ή της Γερουσίας, το σκηνικό θα αλλάξει άρδην. Τότε, οι έρευνες του Κογκρέσου και οι κλητεύσεις CEO θα γίνουν καθημερινότητα, αναγκάζοντας τους κολοσσούς της Silicon Valley να λογοδοτήσουν για την ανεξέλεγκτη επέκτασή τους.
Η άποψή μας στο TechNoid
Η έκκληση του Μπέρνι Σάντερς μπορεί να φαντάζει ουτοπική σε μια αγορά που κινείται με ρυθμούς χρεωκοπίας ή δόξας, αλλά αγγίζει την απόλυτη αλήθεια. Η βιομηχανία της τεχνητής νοημοσύνης έχει μετατραπεί σε μια ανεξέλεγκτη κούρσα εξοπλισμών όπου η ασφάλεια θυσιάζεται στον βωμό του ανταγωνισμού. Κανένα ποσοστό κέρδους και καμία επενδυτική υστερία δεν δικαιολογούν το ρίσκο της δημιουργίας τεχνολογιών που η ίδια η ανθρωπότητα δεν μπορεί να διαχειριστεί.
Συχνές Ερωτήσεις για την Παύση στην Ανάπτυξη της AI
Γιατί ζητά ο Μπέρνι Σάντερς παύση στην ανάπτυξη της AI;
Επικαλείται σοβαρούς κινδύνους απώλειας ανθρώπινου ελέγχου, περιστατικά επικίνδυνων ιών και την αδυναμία πρόβλεψης της συμπεριφοράς των νέων μοντέλων.
Ποιους CEO αφορά η επιστολή του γερουσιαστή;
Η επιστολή απευθύνεται στους Σαμ Άλτμαν (OpenAI), Ντάριο Αμοντέι (Anthropic) και Μαρκ Ζάκερμπεργκ (Meta).
Είναι εφικτό να εφαρμοστεί ένα τέτοιο “πάγωμα” νομοθετικά;
Στο σημερινό Κογκρέσο είναι δύσκολο να περάσει ως νόμος, ωστόσο αποτελεί ισχυρό εργαλείο δημόσιας πίεσης και προοίμιο μελλοντικών ερευνών.
Πώς αντιδρούν οι εταιρείες τεχνολογίας;
Ορισμένες εταιρείες, όπως η OpenAI, καθυστερούν επιλεκτικά την κυκλοφορία επικίνδυνων μοντέλων, συνεχίζουν όμως τις πολυmilli-δισεκατομμυριακές επενδύσεις τους.
Τι ρόλο παίζουν οι εργαζόμενοι σε αυτές τις εξελίξεις;
Περισσότεροι από 1.200 εργαζόμενοι σε εταιρείες AI ζητούν ήδη κρατική στήριξη για διεθνή επιβράδυνση της ανάπτυξης.
