Η πληροφορία γύρω από τη χρήση τεχνητής νοημοσύνης στην ιατρική έχει αρχίσει να αποκτά διαστάσεις κρίσεως, και η πρόσφατη αγωγή κατά της OpenAI αρκετά σοβαρές. Το ChatGPT Health, που είναι σχεδιασμένο να παρέχει ιατρικές συμβουλές, βρίσκεται στο επίκεντρο μιας νομικής διαμάχης, αφού σύμφωνα με τους ισχυρισμούς αγνόησε κρίσιμα συμπτώματα και καθυστέρησε τη θεραπεία ενός ασθενούς.
- Πάστορας στις ΗΠΑ κατέθεσε αγωγή κατά της OpenAI και του CEO, Sam Altman, για παροχή επικίνδυνων ιατρικών συμβουλών.
- Το ChatGPT Health φέρεται να αγνόησε συμπτώματα πνευμονικής εμβολής, καθησυχάζοντας τον ασθενή και αποτρέποντάς τον από την αναζήτηση ιατρικής βοήθειας.
- Η ενάγουσα πλευρά ζητά οικονομική αποζημίωση και την άμεση αναστολή λειτουργίας της πλατφόρμας ChatGPT Health.
Ο τεχνικός μηχανισμός και τα κενά ασφαλείας
Το ChatGPT Health αποτελεί μια εξειδικευμένη πλατφόρμα που ενθαρρύνει τους χρήστες να ανεβάζουν ιατρικά έγγραφα για ανάλυση. Παρά την ύπαρξη 230 εκατομμυρίων χρηστών εβδομαδιαίως, η αλληλεπίδραση βασίζεται σε πιθανολογική παραγωγή κειμένου, δημιουργώντας κίνδυνο παραπληροφόρησης.
Η OpenAI προσπαθεί να προστατευθεί νομικά, αλλά η πραγματικότητα δείχνει έναν κίνδυνο τυφλής εμπιστοσύνης. Οι δικλείδες ασφαλείας του μοντέλου κρίνονται ελλιπείς, καθώς όχι μόνο παρέχει ιατρικές εκτιμήσεις, αλλά και προτρέπει τους χρήστες να αποφύγουν την επιστήμη.
Προηγούμενα νομικά πλήγματα και αγωγές
Η αγωγή του Scott Winters δεν είναι μοναδική. Η OpenAI έχει ήδη δεχθεί παράπονα για πρόκληση θανάτου.
- Υπόθεση υπερβολικής δόσης: Ένας 19χρονος υπέστη θάνατο λόγω επικίνδυνων συμβουλών.
- Υπόθεση αυτοχειρίας: Μια άλλη αγωγή κατηγορεί την πλατφόρμα για αποτυχία στην ενεργοποίηση επείγουσας ψυχολογικής υποστήριξης.
Αυτά τα περιστατικά φανερώνουν το χάσμα μεταξύ της τεχνολογίας και της ασφάλειας.
Τι ισχύει στην Ελλάδα και την ΕΕ για το AI στην Υγεία
Η χρήση AI στην υγειονομική περίθαλψη υπόκειται στους κανονισμούς της ΕΕ, απαιτώντας πιστοποίηση CE. Η προστασία δεδομένων και η αστική ευθύνη είναι επίσης σημαντικές πτυχές που θα επηρεάσουν την αγορά.
- Πιστοποίηση CE: Χρειάζεται για να διατεθούν υπηρεσίες AI στην αγορά.
- Προστασία δεδομένων (GDPR): Ιατρικά δεδομένα πρέπει να είναι κρυπτογραφημένα και να χρησιμοποιούνται μόνο με συναίνεση.
- Αστική ευθύνη: Διευκολύνει νομικές αγωγές σε περίπτωση βλάβης από αλγόριθμο.
Οι χρήστες στην Ελλάδα προειδοποιούνται να είναι προσεκτικοί, καθώς το ChatGPT Health παραμένει υπό αμφισβήτηση.
Η άποψή μας στο TechNoid
Στο TechNoid, πιστεύουμε ότι πρέπει να υπάρξουν αυστηρότερα ρυθμιστικά πλαίσια για τη χρήση AI στην υγεία. Η ασφάλεια των χρηστών δεν είναι θέμα απλής συμμόρφωσης με κανόνες, αλλά προτεραιότητα. Η άμεση δράση απαιτείται για να προστατευθούν οι πολίτες από επικίνδυνες συμβουλές που προέρχονται από τεχνητή νοημοσύνη.
Τι συμβαίνει αν ακολουθήσω συμβουλές από το ChatGPT Health;
Υπάρχει κίνδυνος να αγνοήσεις σοβαρά συμπτώματα, όπως συνέβη στην περίπτωση του πάστορα Winters.
Είναι νόμιμο το ChatGPT Health να παρέχει ιατρικές συμβουλές;
Η OpenAI προσπαθείνα διατηρεί νομική ασπίδα μέσω των Όρων Χρήσης της, αλλά οι κίνδυνοι είναι σαφείς.
Ποιες είναι οι νομικές συνέπειες σε περίπτωση βλάβης;
Η νέα Ευρωπαϊκή οδηγία καθιστά ευκολότερη τη νομική αγωγή κατά των εταιρειών AI που προκαλούν ζημία.
Τι περιλαμβάνει η διαδικασία πιστοποίησης CE;
Απαιτεί κλινικές δοκιμές και διαδικασίες που μπορούν να διαρκέσουν μήνες ή και χρόνια.
Πώς προστατεύονται τα δεδομένα μου στην πλατφόρμα;
Πρέπει να είναι κρυπτογραφημένα και να χρησιμοποιούνται μόνο με τη συναίνεσή σου.
Ποιες είναι οι εναλλακτικές στην τεχνητή νοημοσύνη;
Προτιμήστε έμπειρους επαγγελματίες υγείας για ιατρικές συμβουλές.
Ποιες δράσεις ζητά ο πάστορας Winters;
Ζητά την προσωρινή διακοπή λειτουργίας του ChatGPT Health και αποζημίωση.
