Προειδοποίηση περιεχομένου: αυτοκτονία, περιποίηση.
Η τεχνολογία έχει πλέον τη δυνατότητα να παρέχει υποστήριξη σε κρίσιμες κοινωνικές καταστάσεις, μέσω ενός εργαλείου τεχνητής νοημοσύνης που ονομάζεται Amanda. Η Amanda, που αναπτύχθηκε από τη νορβηγική εταιρεία Aiba, είναι σχεδιασμένη για να ανιχνεύει σήματα κινδύνου για περιποίηση κατά τη διάρκεια φωνητικών συνομιλιών, επιτρέποντας στους διαχειριστές να παρέμβουν προτού οι καταστάσεις κλιμακωθούν. Η συγκεκριμένη τεχνολογία γίνεται ολοένα πιο επιτακτική, ειδικά καθώς οι ανησυχίες για την ασφάλεια των παιδιών στο διαδίκτυο αυξάνονται.
Ο Hege Tokerud, Διευθύνων Σύμβουλος της Aiba, αναφέρει σε συνέντευξή του στο GamesIndustry.biz ότι η Amanda δεν περιορίζεται μόνο σε σημάδια περιποίησης, αλλά μπορεί να ανιχνεύσει εκφοβισμό, ριζοσπαστικοποίηση και άλλες μορφές κοινωνικής χειραγώγησης, παρέχοντας έτσι μια πιο συνολική προσέγγιση στην ανίχνευση επικίνδυνων συμπεριφορών.
Η επιλογή του ονόματος “Amanda” προέρχεται από την ιστορία της Amanda Todd, μιας Καναδής κοπέλας που υπήρξε θύμα διαδικτυακής κακοποίησης. «Είναι μια υπενθύμιση για το γιατί ξεκινήσαμε αυτό το έργο», δηλώνει ο Tokerud, τονίζοντας τη σημασία του να προσφέρονται σχηματισμοί για την προστασία των νέων.
Αξιοσημείωτο είναι ότι η μητέρα της Amanda Todd υποστηρίζει αυτή την πρωτοβουλία, καταδεικνύοντας τη σημασία της ευρείας κοινωνικής αποδοχής και της αντίληψης για την ασφάλεια των παιδιών στον Καναδά.
Η ανάπτυξη της Amanda έρχεται σε μια εποχή που οι νομοθέτες σε όλο τον κόσμο ανησυχούν όλο και περισσότερο για την προστασία των χρηστών του διαδικτύου. Στην Ευρωπαϊκή Ένωση, ο Νόμος για τις Ψηφιακές Υπηρεσίες του 2022 καθορίζει νέους κανόνες για την προστασία από επιβλαβές περιεχόμενο, ενώ το Ηνωμένο Βασίλειο έχει εισαγάγει τον Νόμο για την Ασφάλεια στο Διαδίκτυο, που απαιτεί μεγαλύτερη προστασία για τα παιδιά.
Πώς λειτουργεί η Amanda
Η Amanda εξελίχθηκε από έρευνες που πραγματοποιήθηκαν στο Νορβηγικό Πανεπιστήμιο Επιστήμης και Τεχνολογίας, με στόχο την ανίχνευση επικίνδυνων συμπεριφορών στις διαδικτυακές συνομιλίες. Ο Tokerud επισημαίνει ότι η τεχνολογία βασίζεται σε μοντέλα μηχανικής μάθησης, εκπαιδευμένα σε πραγματικά δεδομένα από αστυνομικές υποθέσεις cybergrooming.
Το καινοτόμο χαρακτηριστικό της Amanda είναι η ικανότητά της να παίρνει υπόψη το πλαίσιο της συνομιλίας. Μπορεί να ανιχνεύσει ύποπτα μοτίβα, ακόμα και αν οι μεμονομένες φράσεις δεν φαίνονται επιβλαβείς. Όταν ανιχνεύει επιβλαβείς ενδείξεις, ενημερώνει έναν άνθρωπο συντονιστή προκειμένου να διαχειριστεί την κατάσταση.
Η ευαισθησία της Amanda μπορεί να ρυθμιστεί ανάλογα με τις ανάγκες του χρήστη. «Πρέπει η εργασία να είναι ευαίσθητη ή όχι;», ερωτά ο Tokerud, εξηγώντας ότι όσο πιο αυστηρές είναι οι ρυθμίσεις, τόσες περισσότερες πιθανές ψευδώς θετικές αναφορές μπορεί να προκύψουν.
Η Amanda χρησιμοποιεί διάφορα μοντέλα AI για τη γλωσσική ανάλυση και την κατηγοριοποίηση παραβιάσεων. Μέχρι στιγμής υποστηρίζει σχεδόν 40 γλώσσες, με το περιθώριο να επεκταθεί σε περισσότερες από 100. Το Odin Cortex, η φωνητική πλατφόρμα που υποστηρίζει την Amanda, μεταγράφει τις συνομιλίες ώστε να γίνει δυνατή η ανάλυση.
Για την ασφάλεια των δεδομένων, οι πληροφορίες κρυπτογραφούνται και τηρούνται σύμφωνα με το Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR). «Είμαστε απόλυτα συμμορφωμένοι με το GDPR», αναφέρει ο Marco Hirt, εκπρόσωπος της 4Players, προσθέτοντας ότι τα ηχογραφήματα διαγράφονται αμέσως μόλις ολοκληρωθεί η κλήση, διασφαλίζοντας την προστασία των χρηστών.
Οικονομικές Αντιπαραθέσεις και Διεθνής Προσφορά
Η ανάπτυξη τέτοιων συστημάτων συνεπάγεται και οικονομικές προκλήσεις. Ωστόσο, ο Tokerud σημειώνει ότι πολλές εταιρείες είναι πρόθυμες να επενδύσουν σε λύσεις που θα εξασφαλίσουν μια ασφαλέστερη διαδικτυακή κοινότητα. «Οι παίκτες δεν επιθυμούν να βρίσκονται σε τοξικές κοινότητες», λέει.
Η Aiba δεν είναι η μόνη εταιρεία που ασχολείται με την καταπολέμηση της τοξικότητας. Η Snap, το Meta και το Roblox έχουν δεσμευτεί να εφαρμόσουν νέες ασφαλιστικές ρυθμίσεις για να προστατεύσουν τα παιδιά στην πλατφόρμα τους.
Ο Tokerud αναφέρει ότι η εταιρεία τους έχει συνομιλήσει με διάφορους πιθανούς πελάτες, γεγονός που καταδεικνύει τη αναγνώριση της ανάγκης για σχηματισμούς κατά της τοξικότητας. Βρίσκονται σε συνεργασία με την πλατφόρμα MovieStarPlanet, όπου εφαρμόζουν τη λύση τους εδώ και δύο χρόνια.
«Σημαντικό να αναγνωρίζουμε ότι η παρακολούθηση της φωνητικής συνομιλίας για επιβλαβείς ενδείξεις είναι μια ρεαλιστική δυνατότητα που μπορεί να εφαρμοστεί τώρα», καταλήγει ο Tokerud, δίνοντας έμφαση στη σημασία της άμεσης δράσης για την καταπολέμηση της διαδικτυακής τοξικότητας.
## Η άποψη του TechNoid.gr
Η δημιουργία εργαλείων όπως η Amanda είναι αναμφισβήτητα ένα βήμα προς τη σωστή κατεύθυνση για την προστασία των ανηλίκων στον ψηφιακό κόσμο. Καθώς οι διαδικτυακές αλληλεπιδράσεις γίνονται όλο και πιο περίπλοκες, η ανάγκη για ελέγχους ασφαλείας αυξάνεται. Σημαντική είναι η υποστήριξη τέτοιων προσπαθειών από γονείς και οργανισμούς, καθώς και η εξέταση της αποτελεσματικότητάς τους. Είναι επίσης χρήσιμο να παρακολουθούμε τις εξελίξεις στον τομέα αυτό στην ελληνική αγορά, καθώς οι ανάγκες για προστασία των χρηστών μπορεί να διαφέρουν ανά γεωγραφική περιοχή.
