Meta: Νέο σκάνδαλο με διαφημίσεις κακοποίησης ανηλίκων

Η υπόσχεση για ένα ασφαλέστερο διαδίκτυο σκοντάφτει, για πολλοστή φορά, στις ίδιες τις πλατφόρμες που το διαμορφώνουν. Σύμφωνα με νέα, εκτενή έρευνα που δημοσιεύτηκε στο Wired και βασίζεται σε στοιχεία του Tech Transparency Project (TTP), η Meta πιάστηκε ξανά να φιλοξενεί, και κυρίως να κερδίζει χρήματα, από διαφημίσεις που περιείχαν εικόνες παιδικής σεξουαλικής κακοποίησης (CSAM), δημιουργημένες με εργαλεία τεχνητής νοημοσύνης.

Το πιο ανησυχητικό στοιχείο δεν είναι μόνο η φύση του περιεχομένου, αλλά η διάρκεια και η ευκολία με την οποία παρακάμφθηκαν τα υποτιθέμενα αυστηρά φίλτρα της πλατφόρμας. Οι επίμαχες διαφημίσεις βρίσκονταν μάλιστα αποθηκευμένες και ορατές στην ίδια τη δημόσια Ad Library της Meta, ένα εργαλείο που δημιουργήθηκε ακριβώς για να ενισχύσει τη διαφάνεια. Το χρονικό διάστημα είναι ενδεικτικό: από τον Νοέμβριο του 2025 έως τις αρχές Αυγούστου του 2026, αυτές οι διαφημίσεις προβλήθηκαν σε χρήστες στις ΗΠΑ, το Ηνωμένο Βασίλειο και σε περισσότερες από δώδεκα ευρωπαϊκές χώρες.

Τα κενά στο AI moderation της Meta

Όπως επισημαίνει η Katie Paul, διευθύντρια του TTP, δεν πρόκειται για αναρτήσεις χρηστών που απλά ξέφυγαν, αλλά για περιεχόμενο που η Meta εξέτασε (ή έστω, τα συστήματα της εξέτασαν), ενέκρινε και εισέπραξε τα αντίστοιχα διαφημιστικά έσοδα. Η Paul υπογραμμίζει ότι οι εικόνες δεν έκαναν καμία προσπάθεια να καμουφλαριστούν, αποδεικνύοντας ότι τα αυτοματοποιημένα πρωτόκολλα ελέγχου χωλαίνουν σοβαρά σε κρίσιμους τομείς προστασίας ανηλίκων.

Στις δικές μας δοκιμές με εργαλεία αυτόματης σήμανσης περιεχομένου σε παρόμοια οικοσυστήματα, παρατηρούμε συχνά ότι οι αλγόριθμοι δίνουν προτεραιότητα στην ταχύτητα έγκρισης και όχι στην ουσιαστική σημασιολογική ανάλυση. Όταν μια πλατφόρμα βασίζεται αποκλειστικά σε αυτοματοποιημένα φίλτρα για να διαχειριστεί δισεκατομμύρια διαφημίσεις καθημερινά, οι γκρίζες ζώνες μετατρέπονται σε κ κερδοφόρες κερκόπορτες για κακόβουλους παράγοντες.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-9816651697894810

(adsbygoogle = window.adsbygoogle || []).push({});

Εφαρμογές nudifying και διαφημιστικό κέρδος

Πολλές από αυτές τις διαφημίσεις συνδέονταν απευθείας με εφαρμογές nudifying, με τη χειρότερη περίπτωση να αφορά την εφαρμογή MaskAI, η οποία αφαιρέθηκε από το App Store της Apple μόνο μετά από σχετική ειδοποίηση του Wired. Η εμπορική εκμετάλλευση αυτών των παράνομων τεχνολογιών μέσω επίσημων διαφημιστικών δικτύων καταδεικνύει μια τεράστια αποτυχία συμμόρφωσης.

Στο εργαστήριο του TechNoid αναλύσαμε τη λειτουργία παρόμοιων εφαρμογών επεξεργασίας εικόνας μέσω γεν-AI και διαπιστώσαμε ότι η ευκολία παραγωγής τέτοιου υλικού ξεπερνά κάθε προηγούμενο. Όταν η πρόσβαση σε εργαλεία παραγωγής παραποιημένου οπτικού υλικού γίνεται τόσο προσιτή, η ευθύνη μεταφέρεται εξ ολοκλήρου στις εταιρείες υποδομής που επιτρέπουν την προώθησή τους.

Το ιστορικό και το συστημικό πρόβλημα

Μόλις λίγες εβδομάδες πριν από αυτή τη δημοσιοποίηση, ξεχωριστή έρευνα του BBC ανέδειξε ότι το Instagram έτρεχε πληρωμένες διαφημίσεις που προωθούσαν υλικό κακοποίησης στην Ινδία, κατευθύνοντας τους χρήστες σε κανάλια στο Telegram. Το ιστορικό αποτυχιών της Meta σε αυτόν τον τομέα εκτείνεται εδώ και σχεδόν μια δεκαετία, με διαρροές, καταθέσεις στο Κογκρέσο και δικαστικές αποφάσεις εκατομμυρίων να επιβεβαιώνουν το μέγεθος του προβλήματος.

Η στροφή της Meta στην αποκλειστική σχεδόν χρήση του AI-driven moderation φαίνεται πως προκαλεί περισσότερα προβλήματα από όσα λύνει. Ενώ η εταιρεία ισχυρίζεται ότι έχει αφαιρέσει 36 εκατομμύρια αντίστοιχα κομμάτια περιεχομένου τον περασμένο χρόνο, η πραγματικότητα δείχνει ότι το σύστημα πλημμυρίζει από αναφορές χαμηλής ποιότητας, καθιστώντας τον εντοπισμό πραγματικών, επικίνδυνων παραβάσεων εξαιρετικά δυσχερή.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-9816651697894810

(adsbygoogle = window.adsbygoogle || []).push({});

Η άποψή μας στο TechNoid

Εμείς στο TechNoid θεωρούμε απαράδεκτο το γεγονός ότι οι κολοσσοί της τεχνολογίας συνεχίζουν να κρύβονται πίσω από το άλλοθι της τεχνητής νοημοσύνης όταν αποκαλύπτονται σοβαρά κενά ασφαλείας. Η Meta δεν είναι μια startup που ψάχνει τα πατήματά της, αλλά ένας πολυεθνικός κολοσσός με απεριόριστους πόρους. Η επιλογή να βασιστεί σε φθηνά, αυτοματοποιημένα συστήματα αντί για επαρκές ανθρώπινο δυναμικό ελέγχου κοστίζει άμεσα σε ανθρώπινες ζωές και αξιοπρέπεια. Κανένα αλγόριθμο reporting δεν μπορεί να αντικαταστήσει την ηθική εποπτεία, και η ανοχή σε τέτοιου είδους διαφημιστικά έσοδα δείχνει ότι οι προτεραιότητες παραμένουν λανθασμένες.