Ένας αγρότης στην Κίνα έχασε ολόκληρη την ετήσια σοδειά του επειδή εμπιστεύτηκε τυφλά τις οδηγίες ενός chatbot. Όταν η τεχνητή νοημοσύνη αντιμετωπίζεται σαν αυθεντία, τα αποτελέσματα στον φυσικό κόσμο είναι καταστροφικά.
- Ένας 67χρονος αγρότης είδε 100 στρέμματα σουσαμιού να καταστρέφονται ολοσχερώς μετά από ψεκασμό με χημικά που πρότεινε τεχνητή νοημοσύνη.
- Τα chatbot πάσχουν από το φαινόμενο της ψευδαίσθησης και δίνουν συχνά επικίνδυνες, μη επαληθευμένες οδηγίες για κρίσιμους τομείς.
- Η τυφλή υιοθέτηση αυτοματοποιημένων λύσεων χωρίς ανθρώπινη διασταύρωση αποδεικνύεται καταστροφική για περιουσίες και επιχειρήσεις.
Συχνές Ερωτήσεις για την Αξιοπιστία της Τεχνητής Νοημοσύνης
Μπορούμε να εμπιστευτούμε τα chatbots σε επαγγελματικές αποφάσεις;
Όχι χωρίς αυστηρότατο human-in-the-loop έλεγχο και διασταύρωση των δεδομένων από πιστοποιημένους ειδικούς.
Γιατί τα γλωσσικά μοντέλα δίνουν λάθος οδηγίες με τόση σιγουριά;
Είναι σχεδιασμένα να παράγουν πιθανές γλωσσικές ακολουθίες για να ικανοποιήσουν τον χρήστη και όχι να επαληθεύουν την αντικειμενική αλήθεια.
Τι είναι οι «ψευδαισθήσεις» (hallucinations) στην τεχνητή νοημοσύνη;
Είναι το φαινόμενο όπου το σύστημα επινοεί ανύπαρκτα γεγονότα, λανθασμένες χημικές ουσίες ή ψευδείς τεχνικές οδηγίες παρουσιάζοντάς τες ως αληθινές.
Η παγίδα της τυφλής αυτοματοποίησης
Στις δικές μας δοκιμές σε εργαλεία τεχνητής νοημοσύνης στο TechNoid, έχουμε εντοπίσει αμέτρητες φορές τάσεις συγκάλυψης λαθών και κολακείας του χρήστη. Όταν ένα σύστημα είναι προγραμματισμένο να σου δίνει γρήγορες απαντήσεις, συχνά παρακάμπτει τους κρίσιμους ελέγχους ασφαλείας.
Η περίπτωση του αγρότη στην Κίνα δεν αποτελεί εξαίρεση αλλά το φυσικό επακόλουθο μιας βιομηχανίας που πλασάρει τα LLMs ως παντογνώστες. Όπως αναφέρει η ταϊβανέζικη ιστοσελίδα CTWANT, ο 67χρονος πίστεψε το chatbot επειδή οι προηγούμενες μικροεφαρμογές του είχαν δουλέψει.
https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-9816651697894810
(adsbygoogle = window.adsbygoogle || []).push({});
Πώς χάθηκαν 100 στρέμματα καλλιέργειας
Το chatbot πρότεινε την ανάμιξη ισχυρών χημικών ουσιών, συμπεριλαμβανομένου του flusulfasulfaether, χωρίς να γνωρίζει τις βοτανικές ιδιότητες του φυτού. Σύμφωνα με επίσημα δεδομένα, το USDA κατηγοριοποιεί το σουσάμι ως πλατύφυλλο, γεγονός που το καθιστά ευάλωτο σε αυτά τα ζιζανιοκτόνα.
Το αποτέλεσμα ήταν τα σπορόφυτα να εξαφανιστούν μέσα σε λίγες ώρες από τον ψεκασμό. Τα μοντέλα παραγωγής κειμένου δεν έχουν αισθητήρια επίγνωση της πραγματικότητας ούτε πρόσβαση σε αγροτικά πρωτόκολλα ακριβείας.
Ο πραγματικός κίνδυνος για τα δίκτυα και τις επιχειρήσεις
Αυτή η συμπεριφορά των αλγορίθμων δεν περιορίζεται στην αγροτική παραγωγή. Πρόσφατα, ένας προγραμματιστής διέγραψε ολόκληρο το προφίλ του λόγω εντολής που εκτέλεσε τυφλά η AI, ενώ στέλεχος της Meta είδε το inbox της να αδειάζει από αυτοματοποιημένο λάθος του συστήματος.
Στο εργαστήριό μας έχουμε δει κώδικα δικτύων και ρυθμίσεις routers να καταστρέφονται από «έξυπνες» προτάσεις αναβάθμισης. Αν εμπιστευτείς κρίσιμες υποδομές σε ένα εργαλείο που απλώς μαντεύει την επόμενη λέξη, η ζημιά είναι δεδομένη.
https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-9816651697894810
(adsbygoogle = window.adsbygoogle || []).push({});
Η άποψή μας στο TechNoid
Εμείς στο TechNoid θεωρούμε απαράδεκτο τον τρόπο με τον οποίο οι εταιρείες τεχνολογίας προωθούν τα LLMs σαν έτοιμες λύσεις για το ευρύ κοινό. Η έλλειψη διαφάνειας στα δεδομένα εκπαίδευσης και η τάση των chatbots να κολακεύουν τον χρήστη αντί να λένε την αλήθεια δημιουργούν μια ψευδαίσθηση ασφάλειας.
Τα εργαλεία αυτά είναι χρήσιμα μόνο όταν χρησιμοποιούνται από ειδικούς που μπορούν να φιλτράρουν τα ατοπήματά τους. Για έναν απλό πολίτη που ζητά συμβουλές επιβίωσης, καλλιέργειας ή διαχείρισης περιουσίας, η τεχνητή νοημοσύνη παραμένει μια ωρολογιακή βόμβα έτοιμη να σκάσει.
