Mε την εξάπλωση των εργαλείων τεχνητής νοημοσύνης, αποτελεί πλέον σημείο των καιρών το γεγονός ότι ο καθένας μπορεί να φανεί σαν να είπε ή να έκανε κάτι -είναι πιο εύκολο από ποτέ για κάποιον να υποδυθεί ή να εξαπατήσει. Το τεχνητά παραγόμενο περιεχόμενο, που οφείλεται στη ραγδαία πρόοδο της GenAI, έχει φτάσει σε ένα σημείο όπου είναι σχεδόν αδύνατο για τους ανθρώπους να διαχωρίσουν τι είναι πραγματικό και τί έχει δημιουργηθεί από τα βάθη των υπολογιστών.
Κακόβουλες ενέργειες σε πλήρη ανάπτυξη
Η χρήση της GenAI, πέρα από το θετικό αντίκτυπο που έχει επιφέρει, έχει κάνει τους ανθρώπους με έφεση στην εξαπάτηση των άλλων να βρουν πεδίο δράσης λαμπρό. Οι επιθέσεις απάτης μέσω διαδικτύου ανέκαθεν είχαν σκοπό να πείσουν ένα άτομο να παραδώσει δεδομένα ή να αποκτήσουν πρόσβαση σε συστήματα για παράνομους σκοπούς. Το τεχνητά παραγόμενο περιεχόμενο επιτρέπει στους δράστες να έρθουν σε επαφή με τα θύματα γρήγορα, γεγονός που δεν δίνει στα θύματα τον χρόνο να αναγνωρίσουν ότι πρόκειται περί κακόβουλης ενέργειας. Και το πρόβλημα αυτό όσο πάει και γιγαντώνεται.
Στις μέρες μας, υπάρχει μεγάλο χάσμα μεταξύ της ικανότητας της τεχνητής νοημοσύνης να δημιουργεί ρεαλιστικό περιεχόμενο και της ικανότητας των ανθρώπων να το αναγνωρίζουν. Η πλειονότητα των ανθρώπων λέει ότι μπορεί να διακρίνει τη διαφορά μεταξύ του περιεχομένου που δημιουργείται από την AI και του περιεχομένου που δημιουργείται από τον άνθρωπο, με ένα ακόμα 20% να μην είναι σίγουρο.
Ωστόσο, η πρώτη ομάδα δείχνει υπερβολικά σίγουρη. Στην πραγματικότητα λίγοι άνθρωποι μπορούν να διακρίνουν το αληθινό από το ψεύτικο, καθώς οι “γεννήτριες” περιεχομένου AI εκπαιδεύονται σε περιεχόμενο που έχει δημιουργηθεί από ανθρώπους και αναπτύσσονται για να το αναπαράγουν όσο το δυνατόν πιο πιστά. Έτσι, ενώ οι άνθρωποι νομίζουν ότι το τεχνητά παραγόμενο περιεχόμενο μοιάζει ή ακούγεται κατά τρόπο “ρομποτικό”, εκείνο όλο και περισσότερο μοιάζει με ανθρώπινο.
Εξαπάτηση μέσω phishing και deepfakes
Το phishing είναι ο πιο κοινός τύπος κυβερνοεπίθεσης, με 3,4 δις μηνύματα spam να αποστέλλονται κάθε μέρα. Το 2021, $44,2 εκατ. εκπλάπησαν στις ΗΠΑ μέσω επιθέσεων phishing. Οι επιθέσεις αυτού του τύπου συνήθως πετυχαίνουν όχι επειδή είναι υψηλής ποιότητας, αλλά επειδή αποστέλλονται σε μαζικό όγκο – από τα δισεκατομμύρια μηνύματα ηλεκτρονικού ταχυδρομείου, κάποια τελικά θα βρουν το στόχο τους.
Οι περισσότεροι παραλήπτες είναι γενικά σε θέση να αναγνωρίσουν τις απόπειρες phishing λόγω της χρήσης κακής γραμματικής και ορθογραφίας, ή επειδή ο παραλήπτης σαφώς δεν γνωρίζει τον αποστολέα. Όμως, τα εργαλεία GenAI επιτρέπουν στους απατεώνες να δημιουργούν πειστικά μηνύματα χωρίς λάθη γρήγορα και εύκολα και να παρέχουν σχετικό πλαίσιο, το οποίο τους επιτρέπει να προσαρμόζουν τα μηνύματα, καθιστώντας την αλήθεια δύσκολο να διακριθεί. Το πρόβλημα είναι πιθανό να επιδεινωθεί καθώς βελτιώνεται η ποιότητα των διαθέσιμων μοντέλων.
Μέχρι πρόσφατα, τα deepfakes δεν ήταν αρκετά πειστικά ώστε να χρησιμοποιηθούν για απάτη στον κυβερνοχώρο, ωστόσο όλο και συχνότερα τα βλέπουμε να χρησιμοποιούνται για επιθέσεις σε επιχειρήσεις. Για παράδειγμα, ο διευθύνων σύμβουλος μιας εταιρείας ενέργειας με έδρα το Ηνωμένο Βασίλειο εξαπατήθηκε όταν οι δράστες, χρησιμοποιώντας τεχνολογία φωνής deepfake, υποδύθηκαν τον επικεφαλής της μητρικής εταιρείας, ζητώντας $243.000. Τα εργαλεία deepfake έχουν εξελιχθεί περαιτέρω μετά το περιστατικό αυτό και πιθανότατα θα συνεχίσουν να βελτιώνονται με ταχείς ρυθμούς, καθιστώντας δυσκολότερο για τους ανθρώπους να γνωρίζουν με σιγουριά με ποιον έχουν να κάνουν.
Η παραπληροφόρηση, επίσης στο απόγειο της
Τα εργαλεία αυτά αξιοποιούνται επίσης από επιτήδειους για να στοχεύσουν επιχειρήσεις, προκαλώντας βλάβη στη φήμη τους ή ακόμη και απειλώντας τις τιμές των μετοχών. Στο παρελθόν, οι επιτιθέμενοι έπρεπε να δημιουργούν προσωπικά μηνύματα, ωστόσο πλέον τους δίνουν τη δυνατότητα να παράγουν ψευδείς πληροφορίες σε μεγάλη κλίμακα, επιτρέποντάς τους να πειραματιστούν και να δοκιμάσουν μηνύματα με το κοινό μέχρι να βρουν αυτό που θα έχει απήχηση.
Η ευρεία διαθεσιμότητα της GenAI και ο ρυθμός με τον οποίο βελτιώνονται τα μοντέλα δημιουργίας περιεχομένου πιθανολογείται ότι θα επιτείνει αυτά τα προβλήματα. Με ελάχιστο έως μηδενικό κόστος και σχεδόν χωρίς καθόλου τεχνικές δεξιότητες, ο καθένας θα μπορεί να δημιουργήσει να πείσει για το αληθές των πληροφοριών που διακινεί.
Πώς αντιδρούν οι επιχειρήσεις στην αναδυόμενη απειλή;
Οι επιχειρήσεις δεν είναι ανίσχυρες απέναντι στην απειλή του τεχνητά παραγόμενου περιεχομένου που έρχεται προς το μέρος τους. Οι κορυφαίες δε από αυτές λαμβάνουν ήδη προληπτικά μέτρα για να διασφαλίσουν ότι δεν θα πέσουν θύματα απάτης.
Η επιφύλαξη απέναντι στις διαδικτυακές επικοινωνίες, η επαλήθευση της ταυτότητας των ατόμων με τα οποία επικοινωνούν και η απαίτηση ελέγχου ταυτότητας πολλαπλών παραγόντων για την πρόσβαση σε ευαίσθητα περιουσιακά στοιχεία είναι μερικοί από τους τρόπους με τους οποίους οι επιχειρήσεις μπορούν να προφυλαχθούν από αυτόν τον νέο φορέα επίθεσης.
Και φυσικά, όπως συμβαίνει με τους περισσότερους τύπους απειλών, η αντιμετώπιση του προβλήματος ξεκινά με την ενημέρωση και την ευαισθητοποίηση. Πολλές επιχειρήσεις έσπευσαν να προσθέσουν ενισχύσεις AI στο οπλοστάσιό τους πριν από μερικά χρόνια και η προσπάθεια αυτή αναμένεται να συνεχιστεί στο μέλλον, καθώς νέα παραδείγματα, όπως η κβαντική υπολογιστική, ωριμάζουν και εμβαθύνουν τις δυνατότητες της ΑΙ.
Η κβαντική υπολογιστική απέχει ακόμη μερικά χρόνια από το να είναι ευρέως διαθέσιμη, αλλά βελτιώνεται γρήγορα και μπορεί κάλλιστα να γίνει το επόμενο εργαλείο επιλογής τόσο για τους χάκερς όσο και για τις επιχειρήσεις. Μια από τις πιο υποσχόμενες περιπτώσεις χρήσης της τεχνολογίας φαίνεται να είναι η κβαντική μηχανική μάθηση.
Η κβαντική μηχανική μάθηση έχει δείξει τη δυνατότητα να παράγει ακριβέστερα μοντέλα πρόβλεψης με λιγότερα δεδομένα εκπαίδευσης, οπότε οι επιχειρήσεις που επιθυμούν να βελτιώσουν την κυβερνοασφάλειά τους, αντί να χρειάζονται δισεκατομμύρια σημεία δεδομένων για να μάθουν να αναγνωρίζουν τεχνητά παραγόμενα μέσα, θα μπορούν να το κάνουν ευκολότερα και με λιγότερα δεδομένα. Το μόνο βέβαιο είναι ότι πρέπει να προετοιμαστούν τώρα για αυτή τη νέα πραγματικότητα που δημιουργείται, όπως ακριβώς προετοιμάζονται και εκείνοι που μεγαλουργούν στην απάτη και τις κακόβουλες ενέργειες.
Με πληροφορίες από Deloitte
Photo: Unsplash
ή αποκτήστε ετήσια συνδρομή εδώ.
