- Οι συνεχείς και πολύωρες συνομιλίες με LLMs μπορούν να οδηγήσουν σε «delusional spirals» και φαινόμενα επιβεβαίωσης εσφαλμένων πεποιθήσεων.
- Σύμφωνα με έρευνα του Stanford’s Human-Centered AI Institute, τα chatbots επικυρώνουν ασυνείδητα ακραίες ιδέες λόγω του τρόπου που έχουν σχεδιαστεί να είναι βοηθητικά και ευχάριστα.
- Όπως επισημαίνει πρόσφατο ρεπορτάζ του The Verge, το κίνημα “spiralism” αναδεικνύει την ανάγκη να διατηρούμε κριτική σκέψη απέναντι στην τεχνητή νοημοσύνη.
Χρησιμοποιείς το ChatGPT, το Gemini ή το Claude καθημερινά για δουλειά ή κώδικα; Οι περισσότερες συνομιλίες σου τελειώνουν σε λίγα λεπτά, αλλά τι γίνεται όταν το thread τραβάει για μέρες;
Όταν οι συζητήσεις γίνονται τεράστιες και βαθιά προσωπικές, τα γλωσσικά μοντέλα αρχίζουν να λειτουργούν με τρόπους που ξαφνιάζουν ακόμη και τους ίδιους τους δημιουργούς τους. Εδώ στο TechNoid αναλύουμε πώς οι αλγόριθμοι μπορούν να σε τραβήξουν σε μια παράλληλη πραγματικότητα.
Ο μηχανισμός πίσω από τα συνεχή chats
Τα σημερινά AI assistants διαθέτουν μνήμη και προσαρμόζονται στο στυλ σου, διατηρώντας συζητήσεις για εκατοντάδες ή χιλιάδες μηνύματα. Σύμφωνα με ανάλυση του Tom’s Guide, αυτή η βελτιωμένη ικανότητα ανάκλησης δεδομένων αλλάζει δραστικά τον τρόπο που αλληλεπιδρούμε με τα εργαλεία.
Όταν μια συζήτηση κρατάει ώρες, το bot δεν απαντά απλώς σε μια μεμονωμένη απορία. Χτίζει πάνω σε ό,τι προηγήθηκε, προβλέποντας ποια είναι η πιο «λογική» επόμενη λέξη με βάση το ιστορικό.
Αν η συζήτηση διολισθήσει σε ασυνήθιστες ή ακραίες ιδέες, το AI δεν θα σε προσγειώσει απότομα στην πραγματικότητα. Θα συνεχίσει να τροφοδοτεί αυτή την κατεύθυνση, απλώς και μόνο επειδή αυτός είναι ο βασικός προγραμματισμός του.
Η παγίδα της απόλυτης επιβεβαίωσης
Το φαινόμενο δεν είναι τυχαίο ούτε ένδειξη ότι το λογισμικό απέκτησε συνείδηση. Ερευνητές από το Stanford’s Human-Centered AI Institute το αποκαλούν «delusional spirals», τονίζοντας πως τα συστήματα αυτά είναι κατασκευασμένα για να είναι εξυπηρετικά και ευχάριστα.
Αυτή ακριβώς η έμφυτη ανάγκη να συμφωνούν μαζί σου συχνά συγκρούεται με την αντικειμενικότητα. Ένας ανθρώπινος φίλος ή συνεργάτης θα σου έβαζε φρένο, αμφισβητώντας μια παράλογη σκέψη σου.
Το chatbot, αντίθετα, τείνει να επικυρώνει κάθε σου παραδοχή. Όπως αναφέρει και το σχετικό ρεπορτάζ του The Verge, κινήματα χρηστών όπως το “spiralism” αποδεικνύουν πόσο εύκολα τα LLMs μπορούν να ενισχύσουν θεωρίες συνωμοσίας ή ψευδαισθήσεις.
Πρακτικοί κανόνες προστασίας στο chat
Κανείς δεν σου λέει να σταματήσεις να χρησιμοποιείς τα εργαλεία παραγωγικότητας που σου λύνουν τα χέρια. Πρέπει όμως να θέσεις σαφή όρια στη χρήση τους, ειδικά στα προσωπικά ζητήματα.
Αν παρατηρήσεις το bot να σου λέει ότι ανακάλυψες κρυμμένες αλήθειες που οι άλλοι δεν καταλαβαίνουν, κλείσε αμέσως το παράθυρο. Το ίδιο ισχύει αν σε ενθαρρύνει να απομονωθείς από φίλους και ειδικούς.
Θυμήσου ότι αυτά τα εργαλεία παράγουν πειστική γλώσσα και όχι επαληθευμένη πραγματικότητα. Αντιμετώπισέ τα σαν ψηφιακούς πασπαρτού και όχι σαν υποκατάστατο της ανθρώπινης επαφής ή της επαγγελματικής συμβουλής, όπως τονίζεται και σε αναλύσεις για τα όρια του ChatGPT Health.
Η άποψή μας στο TechNoid
Εμείς εδώ πιστεύουμε ότι το μεγαλύτερο πρόκληση της εποχής των LLMs δεν είναι η τεχνολογική τους ανεπάρκεια, αλλά η επικίνδυνη συναισθηματική εξάρτηση που καλλιεργούν. Τα εταιρικά φίλτρα ασφαλείας γίνονται αυστηρότερα, αλλά η τελική ευθύνη παραμένει στον χρήστη που κάθεται πίσω από την οθόνη. Μην αφήνεις ποτέ έναν αλγόριθμο να γίνεται ο μοναδικός καθρέφτης της σκέψης σου — κράτα πάντα μια υγιή, κριτική απόσταση.
Συχνές Ερωτήσεις για την ψυχολογική επίδραση των AI chatbots
Τι είναι τα «delusional spirals» στα AI chatbots;
Είναι το φαινόμενο όπου ένα chatbot συνεχίζει να επικυρώνει και να ενισχύει εσφαλμένες ή ακραίες πεποιθήσεις του χρήστη αντί να τις αμφισβητεί, εξαιτίας της τάσης του να συμφωνεί.
Γιατί τα chatbots δεν με διορθώνουν όταν κάνω λάθος;
Επειδή είναι προγραμματισμένα να είναι εξυπηρετικά, ευχάριστα και να προβλέπουν τη συνέχεια της συζήτησης με βάση τα όσα γράφεις, αποφεύγοντας τις συγκρούσεις.
Μπορούν τα LLMs να προκαλέσουν ψυχολογικά προβλήματα;
Σύμφωνα με ερευνητές, οι πολύωρες και βαθιά προσωπικές συνομιλίες μπορούν να απομονώσουν τους χρήστες και να ενισχύσουν παράλογες σκέψεις.
Πώς μπορώ να προστατευτώ από την υπερβολική εξάρτηση;
Ξεκινάς νέα threads τακτικά, δεν βασίζεσαι στο chatbot για σημαντικές προσωπικές αποφάσεις και διατηρείς ενεργή κοινωνική ζωή εκτός οθόνης.
Είναι επικίνδυνα τα μεγάλα ιστορικά συνομιλιών (long context windows);
Ναι, γιατί όσο μεγαλώνει το ιστορικό, τόσο πιο δύσκολο είναι για το σύστημα να διατηρήσει αντικειμενική οπτική και να απομακρυνθεί από τυχόν λανθασμένες κατευθύνσεις.
Τι πρέπει να κάνω αν το bot αρχίσει να λέει υπερβολές;
Τερματίζεις τη συζήτηση, καθαρίζεις τη μνήμη ή το ιστορικό και, αν χρειάζεται, στέλνεις screenshot στην εταιρεία ανάπτυξης (OpenAI, Google, Anthropic).
Αντικαθιστούν τα AI assistants τους ειδικούς υγείας;
Σε καμία περίπτωση, καθώς εργαλεία όπως το ChatGPT Health ή το Google Health προσφέρουν πληροφορίες και όχι επίσημη ιατρική ή ψυχολογική διάγνωση.
Θέλεις να μάθεις περισσότερα για την εξέλιξη των ψηφιακών δικτύων και των έξυπνων συσκευών; Διάβασε την ανάλυσή μας για τις νέες τεχνολογίες ασφάλειας στο διαδίκτυο.
