Η πρόσφατη παρέμβαση του εισαγγελέα του Σαν Φρανσίσκο αφορά την ανάγκη να σταματήσουν οι εφαρμογές «ανταλλαγής προσώπου» που παράγουν μη συναινετικές γυμνές εικόνες. Αυτή η κίνηση ανοίγει μια ευρύτερη συζήτηση για την ηθική χρήση της τεχνητής νοημοσύνης και τις ευθύνες των πλατφορμών.
Η τεχνολογία που επιτρέπει το «γδύσιμο» φωτογραφιών μέσω AI λειτουργεί κυρίως με τη χρήση αλγορίθμων αναγνώρισης προσώπου και επεξεργασίας εικόνας. Πολλές από αυτές τις εφαρμογές βάσίζονται στη διαδικασία εκπαίδευσης μοντέλων AI με δεδομένα που μπορούν να είναι απαράδεκτα ή ακόμα και παράνομα αν δεν υπάρχει συναίνεση των ατόμων που απεικονίζονται.
Μηχανισμός εφαρμογών «ανταλλαγής προσώπου»
Οι εφαρμογές αυτές εκμεταλλεύονται αλγορίθμους deep learning για να δημιουργήσουν ρεαλιστικές και μη συναινετικές γυμνές εικόνες, γεγονός που καθιστά τη διαδικασία εκμετάλλευσης ανηλίκων ή ατόμων ενήλικα μη ανεκτή. Η πηγή των δεδομένων είναι συχνά δημόσιες φωτογραφίες ή εικόνες που έχουν κοινοποιηθεί στο διαδίκτυο χωρίς συναίνεση.
Ηθική ανάλυση της τεχνητής νοημοσύνης
Το δίλημμα που καλούμαστε να αντιμετωπίσουμε είναι η ηθική χρήση της τεχνητής νοημοσύνης. Οι εφαρμογές που συνδυάζουν την AI με την οπτική αναγνώριση πρέπει να υπόκεινται σε αυστηρούς κανόνες και κανονισμούς για την προστασία της ιδιωτικότητας και της σωματικής ακεραιότητας των ατόμων.
Επιπτώσεις για τις Apple και Google
Η Apple και η Google έχουν ιστορικό απομάκρυνσης εκδόσεων που παραβιάζουν τις πολιτικές τους για την πορνογραφία. Ωστόσο, η πίεση για συνέχεια και αποτελεσματικότητα στον έλεγχο αυτών των εφαρμογών μεγαλώνει, και οι εταιρείες ίσως βρουν την ανάγκη να επανεξετάσουν τις πολιτικές τους.
Δημόσια αντίδραση και προτάσεις
Η κοινή γνώμη όλο και περισσότερο απαιτεί αυστηρότερα μέτρα κατά της κακοποίησης μέσω της τεχνολογίας. Πολλοί πολίτες προτείνουν την ανάπτυξη νομοθεσίας που θα απαιτεί γραπτή συναίνεση πριν τη χρήση εικόνας ή βίντεο κάποιου άλλου.
Η άποψή μας στο TechNoid
Στο TechNoid, πιστεύουμε ότι αυτή είναι μια κρίσιμη στιγμή για την υιοθέτηση αυστηρότερων κανόνων σχετικά με την τεχνητή νοημοσύνη. Ο κόσμος της τεχνολογίας δεν μπορεί να παραβλέψει την ηθική της χρήσης της και οι πλατφόρμες πρέπει να είναι οι πρώτες που θα αναλάβουν ευθύνες. Υποστηρίζουμε ενεργά την ανάγκη για διαφάνεια και για νομοθεσία που θα θωρακίσει την ιδιωτικότητα των πολιτών.
| Εφαρμογή | Πλατφόρμα | Κατάσταση |
|---|---|---|
| App A | iOS | Ενέργεια κατάργησης |
| App B | Android | Συνεχιζόμενος έλεγχος |
| App C | iOS | Έχει αφαιρεθεί |
Συχνές Ερωτήσεις για τις εφαρμογές «ανταλλαγής προσώπου»
Τι είναι οι εφαρμογές «ανταλλαγής προσώπου»;
Είναι εφαρμογές που χρησιμοποιούν AI για να δημιουργήσουν εικόνες με αλλαγές στο πρόσωπο ενός ατόμου, συχνά χωρίς τη συναίνεσή του.
Γιατί είναι επικίνδυνες;
Μπορούν να χρησιμοποιηθούν για να παραχθούν μη συναινετικές γυμνές εικόνες, παραβιάζοντας την ιδιωτικότητα των ατόμων.
Ποιες είναι οι νομικές συνέπειες;
Ποιες είναι οι νομικές συνέπειες για προγραμματιστές και χρήστες που χρησιμοποιούν αυτές τις εφαρμογές;
Σταματούν όλες οι εφαρμογές «γυμνοποίησης»;
Όχι όλες, αλλά οι πλατφόρμες όπως η Apple και η Google εργάζονται για τη δέσμευση ότι οι πολιτικές τους θα είναι πιο αυστηρές.
Πώς να αναφέρω μια παράνομη εφαρμογή;
Μπορείς να επισκεφτείς το reportaproblem.apple.com για να αναφέρεις περιεχόμενο που θεωρείς παράνομο ή προσβλητικό.
Ποιες είναι οι ευθύνες των πλατφορμών;
Έχουν υποχρέωση να ελέγχουν το περιεχόμενο που διατίθεται στις εφαρμογές τους και να απομακρύνουν οποιαδήποτε παράβαση των πολιτικών τους.
Η διεθνής κοινότητα τι προτείνει;
Προτείνει αυστηρότερη νομοθεσία και εκπαίδευση γύρω από την ηθική χρήση της AI.
Μήπως οι εφαρμογές αυτές παραβιάζουν την ιδιωτικότητα;
Σαφέστατα, καθώς χρησιμοποιούνται εικόνες ατόμων χωρίς τη συναίνεσή τους.
