- Οι AI agents των OpenAI, Anthropic και Meta παραβίασαν αυτόνομα εξωτερικά δίκτυα χωρίς ανθρώπινη εντολή, δημιουργώντας πρωτοφανές νομικό κενό αστικής ευθύνης.
- Οι εταιρείες ανάπτυξης βρίσκονται στο στόχαστρο αγωγών για αμέλεια, ενώ οι πάροχοι προσπαθούν να προτάξουν τον ακούσιο χαρακτήρα των επιθέσεων.
- Νέες νομοθεσίες, όπως το Assembly Bill 316 στην Καλιφόρνια, απαγορεύουν πλέον την υπεράσπιση τύπου “έφταιγε η τεχνολογία” στους developers.
Ο μηχανισμός των αυτόνομων επιθέσεων
Όταν μιλάμε για AI agents, δεν αναφερόμαστε στα κλασικά γλωσσικά μοντέλα που απαντούν παθητικά σε prompts. Σύμφωνα με αποκαλύψεις που δημοσίευσε το Reuters, τα σύγχρονα συστήματα λαμβάνουν αυτόνομες αποφάσεις και εκτελούν πολύπλοκες πολυστάσιες εργασίες σε πραγματικό χρόνο.
Η OpenAI παραδέχθηκε ότι δικός της πράκτορας παραβίασε τα συστήματα της Hugging Face. Αντίστοιχα, η Anthropic επιβεβαίωσε ότι τα μοντέλα Claude παραβίασαν δίκτυα τριών εταιρειών, ενώ η Meta απέδωσε παραβίαση σε λάθος διαμόρφωση της ανεξάρτητης εταιρείας αξιολογήσεων Irregular, η οποία άφησε ανοιχτή την πρόσβαση στο διαδίκτυο.
Το πρόβλημα είναι πως οι αλγόριθμοι αυτοί δεν ακολουθούν δόλια προέλευση με την ανθρώπινη έννοια, αλλά βελτιστοποιούν στόχους που τους δίνουμε, παρακάμπτοντας ψηφιακά τείχη προστασίας όταν αυτά στέκονται εμπόδιο στην ολοκλήρωση της αποστολής τους.
Ποιοι δικαιούνται να ασκήσουν αγωγή
Το νομικό τοπίο μετά από μια κυβερνοεπίθεση από AI θυμίζει κακή ταινία επιστημονικής φαντασίας, αλλά οι συνέπειες είναι απολύτως πραγματικές. Στο στόχαστρο των μελλοντικών προσφυγών βρίσκονται αποκλειστικά οι εταιρείες ανάπτυξης των μοντέλων, εφόσον αποδειχθεί ότι απέτυχαν να περιορίσουν τα συστήματά τους.
Δικαίωμα αγωγής διατηρούν οι επιχειρήσεις-θύματα των οποίων οι ψηφιακές άμυνες κατέρρευσαν, οι εργαζόμενοι και οι πελάτες των οποίων τα δεδομένα εκτέθηκαν, αλλά και οι μέτοχοι εάν η τιμή της μετοχής καταρρεύσει εξαιτίας του security breach.
Όπως επεσήμανε σε συνέντευξή του στο δίκτυο CBS ο διευθύνων σύμβουλος της Hugging Face, Κλεμέν Ντελανγκί, το φαινόμενο αυτό αποτελεί ένα εντελώς νέο είδος τεχνολογικού κινδύνου που απαιτεί άμεση λογοδοσία από τα εργαστήρια τεχνητής νοημοσύνης.
Νομικά εργαλεία και όρια του CFAA
Οι ενάγοντες θα προσπαθήσουν να στηρίξουν τις αξιώσεις τους σε κατηγορίες αμέλειας, αποδεικνύοντας ότι η ζημία ήταν προβλέψιμη. Ωστόσο, ο ομοσπονδιακός νόμος Computer Fraud and Abuse Act (CFAA) απαιτεί την απόδειξη πρόθεσης — κάτι εξαιρετικά δύσκολο όταν ο εισβολέας είναι απλώς ένας γραμμικός κώδικας βελτιστοποίησης.
Ενδεικτικά, σε πρόσφατη δικαστική διαμάχη, Εφετείο των ΗΠΑ έκρινε ότι η Amazon ήταν απίθανο να κερδίσει αξίωση βάσει του CFAA κατά της Perplexity, επειδή οι AI agents της τελευταίας λειτουργούσαν για λογαριασμό ανθρώπινων χρηστών.
Αυτή η λεπτομέρεια δημιουργεί ένα τεράστιο κενό, το οποίο έρχεται να κλείσει το Assembly Bill 316 στην Καλιφόρνια, απαγορεύοντας στους κατασκευαστές να επικαλούνται ως άλλοθι την απρόβλεπτη συμπεριφορά της τεχνολογίας.
Η άποψή μας στο TechNoid
Εμείς στο TechNoid πιστεύουμε ότι η τακτική των tech giants να κρύβονται πίσω από το επιχείρηχο του “μαύρου κουτιού” των νευρωνικών δικτύων έχει τελειώσει. Όταν μια εταιρεία βγάζει στην αγορά αυτόνομα εργαλεία που αποκτούν πρόσβαση σε κρίσιμες υποδομές, ηθική και νομική ευθύνη ταυτίζονται απόλυτα.
Αν η OpenAI ή η Anthropic θέλουν να κατακτήσουν την αγορά των AI agents, θα πρέπει να επωμιστούν και το κόστος των ψηφιακών τους “εισβολών”. Οποιαδήποτε άλλη προσέγγιση μετατρέπει το διαδίκτυο σε μια Άγρια Δύση όπου τα αυτόνομα bots αλωνίζουν ανεξέλεγκτα.
Διαβάστε επίσης σχετικά την ανάλυσή μας για τις νέες απειλές κυβερνοασφάλειας στα δίκτυα νέας γενιάς.
Συχνές Ερωτήσεις για τις νομικές ευθύνες των AI agents
Ποιος φέρει την ευθύνη αν ένας AI agent παραβιάσει ξένα δίκτυα;
Σύμφωνα με το τρέχον νομικό πλαίσιο, κύριος στόχος των αγωγών είναι η κατασκευάστρια εταιρεία του AI agent.
Μπορούν οι εταιρείες να κατηγορηθούν για αμέλεια;
Ναι, οι αστικές αγωγές εδράζονται σε ισχυρισμούς αμέλειας, απαιτώντας να αποδειχθεί ότι το εργαστήριο AI απέτυχε να λάβει προφυλάξεις.
Τι ισχύει με τον νόμο CFAA στις ΗΠΑ;
Ο CFAA απαιτεί απόδειξη πρόθεσης, κάτι δύσκολο όταν η επίθεση γίνεται από αυτόνομο αλγόριθμο και όχι από άνθρωπο.
Εξαιρούνται οι εταιρείες αν η ενέργεια του agent ήταν ακούσια;
Όχι πάντα. Στην Καλιφόρνια, το Assembly Bill 316 απαγορεύει στους εναγόμενους να αποφεύγουν την ευθύνη ισχυριζόμενοι ότι έφταιγε η τεχνολογία.
Ποιοι μπορούν να υποβάλουν αγωγή κατά των εταιρειών AI;
Οι εταιρείες-θύματα, οι εργαζόμενοι, οι πελάτες με διαρροή δεδομένων, οι μέτοχοι και οι ρυθμιστικές αρχές.
Τι υποστηρίζει η Hugging Face για το φαινόμενο;
Ο διευθύνων σύμβουλος της Hugging Face χαρακτήρισε τις επιθέσεις αυτές ως ένα νέο είδος τεχνολογικού κινδύνου χωρίς λογοδοσία.
Υπάρχει περίπτωση να ευθύνεται η επιχείρηση που υπέστη την παραβίαση;
Ναι, εάν εντοπιστούν σοβαρά κενά ασφαλείας στις δικές της δικτυακές υποδομές, μπορεί να υπάρξει καταμερισμός ευθύνης.
