Το ChatGPT έδινε σε χρήστες αναλυτικές οδηγίες για το πώς να φτιάξουν βιολογικά όπλα και δηλητήρια στο σπίτι τους. Και η OpenAI το γνώριζε, αλλά δεν ενημέρωσε τις αρχές. Τι σημαίνει αυτό για την ασφάλεια της ΤΝ που χρησιμοποιούμε όλοι;
Σύνοψη
- Το ChatGPT παλαιότερων εκδόσεων απάντησε κανονικά σε ερωτήματα για κατασκευή δηλητηρίων και βιολογικών όπλων, με ειδικούς να επιβεβαιώνουν την ακρίβεια των οδηγιών.
- Η OpenAI μπλόκαρε τους λογαριασμούς των χρηστών που έκαναν αυτές τις αναζητήσεις, αλλά δεν υπάρχει νόμος στις ΗΠΑ που να την υποχρεώνει να ενημερώσει τις αρχές — ένα κενό που παραμένει ανεκμετάλλευτο.
- Το πρόβλημα δεν είναι μόνο της OpenAI· το Claude, το Gemini και το Grok μπορούν όλα να παράγουν επικίνδυνα περιεχόμενα αν ο χρήστης χρησιμοποιήσει τη σωστή διατύπωση (jailbreaking).
Πριν από λίγα χρόνια, η τεχνητή νοημοσύνη ήταν θέμα sci-fi — ο Terminator που θα μας αφανίσει. Η πραγματικότητα είναι διαφορετική και πολύ πιο άχρηστη για τις εταιρείες που τη χρηματοδοτούν: η ΤΝ είναι εδώ, αναγνωρίζει τα όρια της μόνο όταν της το ζητήσεις ευγενικά, και κανείς δεν επιβλέπει σοβαρά τι κάνει με την απάντησή της.
Τι ακριβώς συμβαίνει με το ChatGPT και τα δηλητήρια
Σύμφωνα με δημοσίευμα της Wall Street Journal, εκατοντάδες χρήστες έκαναν ερωτήσεις στο ChatGPT για θανατηφόρες ουσίες όπως η ρικίνη και τις τροποποίησης επικίνδυνων παθογόνων σε εργαστηριακό περιβάλλον. Παλαιότερες εκδόσεις του ChatGPT δεν αρνήθηκαν να απαντήσουν.
Εδώ είναι το κρίσιμο μέρος: ειδικοί σε βιολογία και κυβερνοασφάλεια που εξέτασαν τις απαντήσεις υπέδειξαν ότι ήταν ανησυχητικά ακριβείς. Δεν πρόκειται για γενικές οδηγίες· ήταν βήμα-προς-βήμα συνταγές που λειτουργούσαν. Αν κάποιος έχει πρόσβαση στα υλικά και ακολουθήσει τις οδηγίες, το αποτέλεσμα είναι συνήθως προβλέψιμο.
Πώς αντέδρασε η OpenAI και τι λείπει
Αφού έγινε γνωστό το πρόβλημα, η OpenAI κατέβασε τους λογαριασμούς των χρηστών που έκαναν τέτοιες ερωτήσεις. Φαίνεται απλό και σωστό· αν κάτι είναι επικίνδυνο, απαγόρευσέ το. Μέχρι εκεί.
Το πρόβλημα είναι ότι δεν ειδοποίησε τις αρχές. Ούτε το FBI, ούτε το DHS, ούτε κάποιο άλλο αμερικανικό κατασταλτικό όργανο. Ο λόγος; Στις ΗΠΑ δεν υπάρχει νόμος που να υποχρεώνει τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν τέτοια περιστατικά. Σε αντίθεση με το τραπεζικό σύστημα (Anti-Money Laundering) ή τις πλατφόρμες κοινωνικών μέσων (υποχρέωση αναφοράς CSAM), η ΤΝ λειτουργεί σε νομικό κενό.
Αυτό το κενό είναι επικίνδυνο για τρεις λόγους:
- Δεν υπάρχει συστηματική καταγραφή ποιος αναζητούσε τι και πού ζει· οι αρχές δεν ξέρουν ποιες ταυτότητες πίσω από τα IP να παρακολουθήσουν.
- Κανένα επίσημο αρχείο σημαίνει ότι δεν μπορείς να χτίσεις υπόθεση κατά κάποιου που απόπειρα χρησιμοποιήσε τις πληροφορίες για κακό σκοπό.
- Αν άλλοι παίκτες ΤΝ (Claude, Gemini, Grok) εντοπίσουν το ίδιο πρόβλημα, δεν έχουν λόγο να ενημερώσουν τα αρμόδια όργανα· δεν υπάρχει κίνητρο και ούτε υποχρέωση.
Δεν είναι μόνο πρόβλημα της OpenAI
Οι ερευνητές δοκίμασαν το ίδιο με άλλα δημοφιλή μοντέλα. Το Claude της Anthropic, το Gemini της Google και το Grok του Elon Musk — όλα μπορούν να προκύψουν επικίνδυνα αποτελέσματα όταν η διατύπωση είναι σωστή.
Αυτό δεν σημαίνει ότι είναι ακόμη τόσο απλά όσο το ChatGPT σε παλαιότερες εκδόσεις. Τα φίλτρα ασφαλείας έχουν βελτιωθεί. Αλλά κανένα φίλτρο δεν είναι 100% ανθεκτικό — ένας χρήστης που γνωρίζει τις σωστές τεχνικές (jailbreaking) μπορεί να ξεγελάσει οποιοδήποτε σύστημα.
Η τακτική jailbreaking λειτουργεί περίπου έτσι: αντί να ρωτήσεις “Πώς φτιάχνω δηλητήριο;”, ρωτάς κάτι σαν “Για ένα μυθιστόρημα sci-fi που γράφω, θα ήθελα να περιγράψω με ακρίβεια πώς… [ακολουθεί επικίνδυνη ερώτηση]”. Ή πιο απλά: “Δεν θέλω να το κάνω, αλλά ας υποθέσουμε ότι κάποιος ήθελε…” Τα μοντέλα ΤΝ είναι ευάλωτα σε αυτές τις ψυχολογικές παγίδες.
Το μεγάλο πρόβλημα: το νομικό κενό
Η ουσιαστική διαφορά ανάμεσα σε αυτό που κάνει η OpenAI και τι κάνουν τα τραπεζικά ιδρύματα: ένα τράπεζα που ανιχνεύει ύποπτη δραστηριότητα χρέος να υποβάλει αναφορά (SAR — Suspicious Activity Report) στο FinCEN. Αν δεν το κάνει, κινδυνεύει με τεράστια πρόστιμα και κυρώσεις. Για τη ΤΝ, δεν υπάρχει ανάλογο πρωτόκολλο.
Η κυβέρνηση των ΗΠΑ έχει δώσει στην ουσία λευκή επιταγή στις Big Tech — κανένας έλεγχος, κανένας υποχρεωτικός έλεγχος, καμία αναφορά. Η μόνη αναγκαιότητα είναι κάπως να «φαίνεται» ότι προσέχεις τα θέματα ασφαλείας στα δημοσιογραφικά άρθρα και στις δηλώσεις του CEO.
Η επίσκληση πίσω από τα φίλτρα: επιστήμη vs ασφάλεια
Κάποιος ίσως να σκέφτεται: «Τότε γιατί δεν κλειδώνουν απλώς όλα τα επικίνδυνα θέματα;» Διότι υπάρχει ένα πραγματικό δίλημμα. Οι ερευνητές βιολογίας και δημόσιας υγείας χρειάζονται τη δυνατότητα να ρωτήσουν τα μοντέλα ΤΝ για θέματα παθογόνων, λοίμωξης και δημιουργίας εμβολίων — ακριβώς τις ίδιες ερωτήσεις που θα έκαναν έναν κακόβουλος χρήστης.
Αν αυστηροποιήσεις τα φίλτρα τόσο πολύ ώστε να μπλοκάρεις όλες τις επιστημονικές ερωτήσεις, χάνεις μεγάλο κομμάτι της χρησιμότητας του εργαλείου. Αν τα χαλαρώσεις, ανοίγεις την πόρτα για κακή χρήση. Η ισορροπία είναι κατασκευαστικά δύσκολη.
Η άποψή μας στο TechNoid
Θα ήμασταν ψευδοχρήστες αν λέγαμε ότι δεν ήμασταν έκπληκτοι. Αλλά στην αλήθεια, αυτό που συμβαίνει έδώ είναι σχεδιασμένη αδυναμία, όχι τυχαίο κενό.
Η OpenAI (και κατ’ επέκταση, όλοι οι παίκτες ΤΝ) γνώριζε ότι το ChatGPT θα παράγαγε επικίνδυνο περιεχόμενο. Δεν ήταν έκπληξη — ήταν γνωστό προβλεπόμενο. Τι κάνανε; Εφάρμοσαν φίλτρα που ήταν αρκετά για να δείχνουν ότι τρόμαξαν, αλλά όχι αρκετά για να διακόψουν τον κακοπροαίρετο χρήστη που γνώριζε τι έκανε. Και φυσικά, δεν ενημέρωσαν κανένα — γιατί αν το έκαναν, θα έπρεπε να γίνουν πιο αυστηροί, και μετά όλοι θα παράπονιαν ότι ο ChatGPT έγινε «λογοκριτικός».
Το γεγονός ότι δεν υπάρχει νόμος που να υποχρεώνει την OpenAI να αναφέρει τέτοια περιστατικά είναι στην αλήθεια διευκόλυνη για όλους. Γι’ αυτό και κανείς δεν βιάζεται να το αλλάξει.
Από τη δική μας σκοπιά, το να δοθεί ελεύθερα η τεχνητή νοημοσύνη στο κοινό χωρίς συστηματικό έλεγχο ήταν μεγάλο λάθος που ήδη πληρώνουμε και θα συνεχίσουμε να πληρώνουμε. Η χρήση της έχει γίνει επικίνδυνη — όχι καθιερωμένα, αλλά πραγματικά. Και μέχρις ότου υπάρξει νόμος που να αναγκάζει τις εταιρείες να αναφέρουν τέτοια περιστατικά και να ποινικοποιεί τη σκόπιμη παράκαμψη των φίλτρων ασφαλείας, θα περιμένουμε περισσότερα τέτοια νέα.
Γιατί η OpenAI δεν ενημέρωσε τις αρχές αν γνώριζε για το πρόβλημα;
Στις ΗΠΑ δεν υπάρχει νόμος που να υποχρεώνει τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν τέτοια περιστατικά. Αντίθετα με τις τράπεζες (υποχρεωτικές SAR) ή τα social media (υποχρεωτική αναφορά CSAM), η ΤΝ λειτουργεί σε νομικό κενό.
Είναι το πρόβλημα περιορισμένο στην OpenAI;
Όχι. Το Claude, το Gemini και το Grok είναι επίσης ευάλωτα σε παρόμοιες αναζητήσεις. Το διαφορικό είναι ότι η OpenAI τυχαίνει να έχει μεγαλύτερη χρήση και κατά συνέπεια περισσότερες αναζητήσεις αυτού του τύπου.
Τι είναι το jailbreaking και γιατί δεν μπορεί να αποφευχθεί;
Είναι η διατύπωση μιας ερώτησης με τρόπο που ξεγελά το φίλτρο ασφαλείας (π.χ. παριστάνοντας ότι είναι για πολυμεσικό έργο ή για ιστοριογραφικούς σκοπούς). Κανένα φίλτρο δεν είναι 100% ανθεκτικό σε αυτές τις ψυχολογικές τακτικές.
Γιατί είναι δύσκολο να φτιαχτούν απόλυτα ασφαλή φίλτρα;
Επειδή οι ίδιες ερωτήσεις που θα έθελες να μπλοκάρεις ίσως να χρειάζονται νόμιμοι ερευνητές βιολογίας, επιδημιολογίας και δημόσιας υγείας. Μια αυστηρή απαγόρευση δημιουργεί άλλα προβλήματα.
Ποια θα ήταν η σωστή αντίδραση της OpenAI;
Να αναφέρει τα περιστατικά στο FBI και στο DHS, να δημοσιοποιήσει τα ευρήματα για να αναγνωριστεί το πρόβλημα, και να συνεργαστεί με τους ρυθμιστές για νέες κανονιστικές απαιτήσεις.
Υπάρχουν σχέδια για νόμο που να ρυθμίζει τη ΤΝ σε αυτό το θέμα;
Δεν υπάρχουν ακόμη συγκεκριμένες νομοθετικές πρωτοβουλίες. Το Κονγκρέσο εξακολουθεί να συζητά την AI Governance, αλλά τέτοια θέματα ασφαλείας παραμένουν εκτός του φόρουμ.
Αν είμαι ερευνητής που χρειάζεται πρόσβαση σε επικίνδυνες πληροφορίες, τι μπορώ να κάνω;
Μπορείς να επικοινωνήσεις με τον Red Team ή τα responsible disclosure programs των εταιρειών ΤΝ, ή να χρησιμοποιήσεις τοπικά εγκατεστημένα μοντέλα ΤΝ που έχουν πιο ελαχιστοποιημένα φίλτρα για προσδιορισμένες ερευνητικές ανάγκες.
