Η Europol δημοσίευσε σε χθεσινή της έκθεση προειδοποιεί για πιθανή χρήση του ChatGPT και άλλων παρόμοιων συστημάτων τεχνητής νοημοσύνης για διαδικτυακές απάτες και κυβερνοεγκλήματα.
Τα μεγάλα γλωσσικά μοντέλα (LLM) που μπορούν να χρησιμοποιηθούν για διάφορους σκοπούς, όπως το ChatGPT της Open AI, μπορούν δίγουρα να ωφελήσουν τις επιχειρήσεις και τους μεμονωμένους χρήστες. Ωστόσο, η ευρωπαϊκή αστυνομική υπηρεσία υπογράμμισε ότι αποτελούν επίσης μια πρόκληση για την επιβολή του νόμου, καθώς κακόβουλοι παράγοντες μπορούν να τα εκμεταλλευτούν.
«Οι εγκληματίες συνήθως εκμεταλλεύονται γρήγορα τις νέες τεχνολογίες και φαίνεται να προχώρησαν γρήγορα σε συγκεκριμένες εγκληματικές χρήσεις, παρέχοντας τα πρώτα πρακτικά παραδείγματα λίγες εβδομάδες μετά τη δημόσια κυκλοφορία του ChatGPT», αναφέρει η έκθεση. “Καθώς οι δυνατότητες των LLMs όπως το ChatGPT διαρκώς βελτιώνονται, η πιθανή κατάχρηση αυτών του τύπου των AI συστημάτων από εγκληματίες, προσφέρουν μία δυστοπική προοπτική”, υπογραμμίζεται.
Η Europol θεωρεί πως η ικανότητα του ChatGPT να αναπαράγει γλωσσικά μοντέλα που προσομοιώνουν το στυλ της ομιλίας συγκεκριμένων ανθρώπων ή ομάδων, το κάνει ιδανικό για τους κυβερνοεγκληματίες, ενώ η ικανότητά του να προσφέρει κείμενο που φαίνεται αληθοφανές σε τέτοια ταχύτητα και κλίμακα, το κάνει ιδανικό εργαλείο για προπαγάνδα και παραπληροφόρηση, καθώς επιτρέπει στους χρήστες να παράγουν και να διαδίδουν μηνύματα μίας συγκεκριμένης ρητορικής με σχεδόν καθόλου προσπάθεια. Τέλος, προειδοποιεί πως ακόμα και εγκληματίες με ελάχιστη τεχνική γνώση, μπορούν να μετατρέψουν το ChatGPT σε εργαλείο παραγωγής κακόβουλου κώδικα.
Μια πρώιμη μελέτη της αμερικανοϊσραηλινής εταιρείας πληροφοριών για κυβερνοαπειλές Check Point Research (CPR) έδειξε πώς το chatbot μπορεί να χρησιμοποιηθεί για τη διείσδυση σε διαδικτυακά συστήματα με τη δημιουργία phishing emails, ανέφερε η Europol.
Ενώ το ChatGPT διέθετε διασφαλίσεις, συμπεριλαμβανομένης της μετριοπάθειας του περιεχομένου, η οποία δεν θα απαντά σε ερωτήσεις που έχουν χαρακτηριστεί επιβλαβείς ή προκατειλημμένες, αυτές θα μπορούσαν να παρακαμφθούν με έξυπνες προτροπές, επισημαίνει η ευρωπαϊκή αστυνομική υπηρεσία.
Η Europol φαίνεται να πιστεύει ότι η πρόκληση που θέτουν αυτά τα συστήματα δεν μπορεί παρά να αυξηθεί καθώς θαχρησιμοποιούνται και θα εξελίσσονται περισσότερο, για παράδειγμα, με τη δημιουργία εξαιρετικά πειστικών deep fakes. Ένας άλλος κίνδυνος είναι ότι αυτά τα LLMs μπορεί να γίνουν διαθέσιμα στο dark web και να εκπαιδευτούν με ιδιαίτερα επιβλαβή δεδομένα. Το είδος των δεδομένων που θα τροφοδοτήσουν αυτά τα συστήματα και ο τρόπος με τον οποίο θα μπορούσαν να αστυνομευτούν αποτελούν κρίσιμα ερωτηματικά για το μέλλον.
