Η εποχή της ανωνυμίας στους δημόσιους χώρους έχει τελειώσει, καθώς οι κάμερες τεχνητής νοημοσύνης σαρώνουν καθημερινά τα χαρακτηριστικά μας. Στο συνέδριο Black Hat, μια νέα προσέγγιση υπόσχεται να επαναφέρει την ιδιωτικότητά μας μέσα από την καθημερινή μόδα. Εμείς στο TechNoid εξετάζουμε πώς τα «adversarial patterns» απειλούν τα συστήματα επιτήρησης.
- Ο ερευνητής Bill Swearington παρουσίασε το project noRecognition για την εξαπάτηση καμερών AI.
- Η τεχνολογία αξιοποιεί ειδικά τυπωμένα μοτίβα σε ρούχα και αξεσουάρ, όπως κασκόλ και πουκάμισα.
- Δοκιμές σε συστήματα εταιρειών όπως η Palantir και η Clearview AI έδειξαν θετικά αποτελέσματα σε ψηφιακό επίπεδο.
Πώς λειτουργούν τα adversarial patterns
Τα συστήματα αναγνώρισης προσώπου δεν «βλέπουν» όπως ο ανθρώπινος εγκέφαλος, αλλά αναλύουν εικονοστοιχείο προς εικονοστοιχείο αναζητώντας συγκεκριμένα γεωμετρικά χαρακτηριστικά. Ο ιδρυτής της κοινότητας SecKC, Bill Swearington, δημιούργησε έναν αλγόριθμο που παράγει οπτικά θορύβους ικανούς να μπερδέψουν τα νευρωνικά δίκτυα. Ενώ προηγούμενες προσπάθειες από πρωτοπόρους όπως ο Adam Harvey βασίζονταν σε ασύμμετρο μακιγιάζ ή φουτουριστικά χτενίσματα, η νέα μέθοδος μεταφέρει την προστασία απευθείας στα υφάσματα που φοράμε. Ουσιαστικά, ο αλγόριθμος τοποθετεί στοχευμένες οπτικές «παγίδες» που αναγκάζουν την τεχνητή νοημοσύνη να απορρίψει την εικόνα ή να την ερμηνεύσει λανθασμένα.
Οι δοκιμές σε εμπορικά μοντέλα AI
Το μεγαλύτερο ενδιαφέρον γύρω από το project noRecognition εντοπίζεται στο εύρος των δοκιμών του σε πραγματικές σουίτες λογισμικού. Σύμφωνα με τις παρουσιάσεις στο συνέδριο, το σύστημα δοκιμάστηκε επιτυχώς σε έντεκα διαφορετικά εμπορικά μοντέλα, συμπεριλαμβανομένων των λύσεων επιτήρησης της Palantir, των φορητών καμερών σώματος της Axon και της αμφιλεγόμενης βάσης δεδομένων της Clearview AI. Παρότι οι εταιρείες αυτές επενδύουν δισεκατομμύρια στην αυτόματη ταυτοποίηση, οι αλγόριθμοί τους αποδείχθηκαν ευάλωτοι στα ειδικά σχεδιασμένα γεωμετρικά σχήματα, αποδεικνύοντας ότι το software εξακολουθεί να παρουσιάζει σημαντικά κενά ασφαλείας απέναντι σε στοχευμένες παρεμβολές.
Τα πρακτικά εμπόδια στην καθημερινή μόδα
Πριν σπεύσεις να αγοράσεις ένα κασκόλ που θα σε κάνει αόρατο στις κάμερες της πόλης, αξίζει να θυμάσαι ότι η τεχνολογία βρίσκεται ακόμη σε εμβρυιακό στάδιο. Όπως παραδέχθηκε ο δημιουργός της, τα μοτίβα λειτουργούν απροβλημάτιστα σε ψηφιακό περιβάλλον, αλλά η εκτύπωσή τους σε πραγματικά υφάσματα με τις σωστές ιδιότητες ανάκλασης παραμένει δύσκολη. Η φυσική φθορά του υφάσματος, οι τσακίσεις όταν το ρούχο διπλώνεται και οι γωνίες λήψης των καμερών ασφαλείας επηρεάζουν δραστικά την αποτελεσματικότητα του μοτίβου. Γι’ αυτόν τον λόγο, ο Swearington επιλέγει να κρατάει κλειστούν τον πηγαίο κώδικα και τα τελικά μοτίβα του, αποτρέποντας τις κατασκευάστριες εταιρείες από το να εκπαιδεύσουν τα νέα τους μοντέλα ώστε να τα εντοπίζουν.
Η άποψή μας στο TechNoid
Η προσπάθεια απόκτησης της ψηφιακής μας αυτονομίας μέσω της μόδας είναι μια γοητευτική πράξη ψηφιακής αντίστασης, αλλά δεν αποτελεί μακροπρόθεσμη λύση. Η εξάρτησή μας από τέτοιες παρεμβολές δείχνει πόσο αποτύχαμε σε ρυθμιστικό επίπεδο να περιορίσουμε τη μαζική επιτήρηση από εταιρείες και κρατικούς φορείς. Στο TechNoid πιστεύουμε ότι το βάρος πρέπει να πέσει σε αυστηρότερους νόμους και ευρωπαϊκούς κανονισμούς τύπου GDPR που απαγορεύουν τη βιομετρική σάρωση στους δημόσιους χώρους, αντί να φορτώνουμε στον πολίτη την ευθύνη να ντύνεται σαν πίνακας αφηρημένης τέχνης για να κυκλοφορήσει ελεύθερος.
Συχνές Ερωτήσεις για την αναγνώριση προσώπου και τα ρούχα ανωνυμίας
Τι είναι τα adversarial patterns στα ρούχα;
Πρόκειται για ειδικά σχεδιασμένα γεωμετρικά σχήματα και μοτίβα που μπερδεύουν τους αλγορίθμους τεχνητής νοημοσύνης, αποτρέποντας την ταυτοποίηση του προσώπου.
Λειτουργεί το project noRecognition στην πράξη;
Αυτή τη στιγμή λειτουργεί κυρίως σε ψηφιακό περιβάλλον, ενώ οι δοκιμές σε πραγματικά υφάσματα βρίσκονται ακόμα σε στάδιο εξέλιξης.
Ποιες εταιρείες καμερών επηρεάζονται από αυτή τη μέθοδο;
Σύμφωνα με τις δοκιμές, τα μοτίβα κατάφεραν να ξεγελάσουν μοντέλα από εταιρείες όπως η Palantir, η Axon και η Clearview AI.
Είναι παράνομο να φοράς ρούχα που μπλοκάρουν τις κάμερες;
Προς το παρόν δεν υπάρχει νομικό πλαίσιο που να απαγορεύει τη χρήση μοτίβων στα ρούχα σου, αν και οι αρχές παρακολουθούν στενώς τέτοιες τεχνολογίες.
Πού μπορώ να δω περισσότερα για το noRecognition;
Μπορείς να παρακολουθήσεις την εξέλιξη του project στην επίσημη ιστοσελίδα του Swearington.
Υπάρχουν άλλες μέθοδοι απόκρυψης προσώπου;
Ναι, παλαιότερες τεχνικές περιλαμβάνουν ειδικό μακιγιάζ προσώπου, αξεσουάρ με υπέρυθρα LEDs και ασύμμετρα χτενίσματα.
Πώς μπορώ να στηρίξω την έρευνα του Bill Swearington;
Η χρηματοδότηση της έρευνας γίνεται μέσω σχετικής καμπάνιας στο Kickstarter.
