Οι ειδικοί της Check Point Software είχαν δοκιμάσει τις δυνατότητες του ChatGPT στη δημιουργία κακόβουλου λογισμικού. Λίγες εβδομάδες αργότερα, τα πρώτα πρακτικά παραδείγματα έχουν ήδη δημοσιευθεί σε ένα γνωστό φόρουμ hacking, κυρίως από (επίδοξους) hackers με μικρή τεχνική εμπειρία. Τα εργαλεία είναι προς το παρόν πολύ βασικά, αλλά σίγουρα θα κυκλοφορήσουν πιο εξελιγμένες εκδόσεις τους επόμενους μήνες.
Οι ερευνητές της Check Point χρησιμοποίησαν το ChatGPT για να γράψουν ένα phishing e-mail με ένα συνημμένο Excel που περιείχε κώδικα που κατεβάζει κακόβουλο λογισμικό στον υπολογιστή. Ένας χρήστης χρησιμοποίησε την τεχνητή νοημοσύνη του OpenAI για να γράψει τον κώδικα ενός κλέφτη πληροφοριών σε Python. Το κακόβουλο λογισμικό αρχίζει να αναζητά συγκεκριμένα αρχεία (π.χ. έγγραφα Word και PDF), τα οποία, εφόσον βρεθούν, αντιγράφονται σε έναν κατάλογο, συμπιέζονται σε μορφή ZIP και αποστέλλονται στον απομακρυσμένο διακομιστή. Όταν ολοκληρωθεί, ο κατάλογος και το αρχείο ZIP διαγράφονται.
Το δεύτερο παράδειγμα είναι ένα εργαλείο κρυπτογράφησης, και πάλι γραμμένο σε Python. Ο κώδικας περιέχει όλες τις απαραίτητες λειτουργίες για την κρυπτογράφηση και αποκρυπτογράφηση αρχείων, αξιοποιώντας διάφορους αλγόριθμους, συμπεριλαμβανομένων των Blowfish και Twofish. Ο κώδικας μπορεί να χρησιμοποιηθεί για κοινές εργασίες, αλλά μερικές τροποποιήσεις αρκούν για την αυτοματοποίηση των λειτουργιών και την εκμετάλλευσή του κατά τη διάρκεια μιας επίθεσης ransomware.
Το τελευταίο παράδειγμα είναι πιο περίπλοκο. Ένας χρήστης του φόρουμ χρησιμοποίησε το ChatGPT για να δημιουργήσει μια αγορά, δηλαδή έναν ιστότοπο που χρησιμοποιείται για την αγορά και πώληση όπλων, ναρκωτικών, κακόβουλου λογισμικού, κλεμμένων αγαθών και δεδομένων πιστωτικών καρτών. Αξιοποιώντας API τρίτων, είναι δυνατή η ενημέρωση των τιμών σε πραγματικό χρόνο, λαμβάνοντας υπόψη την τρέχουσα αξία των κρυπτονομισμάτων που γίνονται δεκτά ως μέθοδοι πληρωμής.
Οι ειδικοί της Check Point Software ρώτησαν το ChatGPT πώς η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για παράνομους σκοπούς. Η AI απάντησε ότι υπάρχουν διάφοροι τρόποι, συμπεριλαμβανομένων των μηνυμάτων ηλεκτρονικού “ψαρέματος”, των αναρτήσεων στα μέσα κοινωνικής δικτύωσης ή των ψεύτικων βίντεο για τη χειραγώγηση της κοινής γνώμης. Ωστόσο, η OpenAI δεν φέρει καμία ευθύνη, καθώς οι όροι παροχής υπηρεσιών απαγορεύουν τη χρήση της τεχνολογίας της για επικίνδυνες ή παράνομες δραστηριότητες.
