Η Microsoft και η OpenAI αποκαλύπτουν σήμερα ότι οι χάκερ χρησιμοποιούν ήδη μεγάλα γλωσσικά μοντέλα όπως το ChatGPT για να βελτιώσουν και να βελτιώσουν τις υπάρχουσες κυβερνοεπιθέσεις τους. Σε πρόσφατα δημοσιευμένη έρευνα, η Microsoft και η OpenAI εντόπισαν προσπάθειες από ομάδες που υποστηρίζονται από τη Ρωσία, τη Βόρεια Κορέα, το Ιράν και την Κίνα και χρησιμοποιούν εργαλεία όπως το ChatGPT για την έρευνα των στόχων, τη βελτίωση των σεναρίων και τη βοήθεια στη δημιουργία τεχνικών κοινωνικής μηχανικής.
“Οι ομάδες ηλεκτρονικού εγκλήματος, οι εθνικοί κρατικοί φορείς απειλών και άλλοι αντίπαλοι εξερευνούν και δοκιμάζουν διαφορετικές τεχνολογίες τεχνητής νοημοσύνης καθώς αυτές εμφανίζονται, σε μια προσπάθεια να κατανοήσουν την πιθανή αξία για τις επιχειρήσεις τους και τους ελέγχους ασφαλείας που μπορεί να χρειαστεί να παρακάμψουν”, αναφέρει η Microsoft σε σημερινή ανάρτηση στο blog της.
Η ομάδα Strontium, που συνδέεται με τις ρωσικές στρατιωτικές υπηρεσίες πληροφοριών, έχει βρεθεί ότι χρησιμοποιεί LLM “για να κατανοήσει τα πρωτόκολλα δορυφορικής επικοινωνίας, τις τεχνολογίες απεικόνισης ραντάρ και συγκεκριμένες τεχνικές παραμέτρους”. Η ομάδα hacking, γνωστή και ως APT28 ή Fancy Bear, έχει δραστηριοποιηθεί κατά τη διάρκεια του πολέμου Ρωσίας-Ουκρανίας και στο παρελθόν συμμετείχε στη στοχοποίηση της προεδρικής εκστρατείας της Χίλαρι Κλίντον το 2016.
Η ομάδα έχει επίσης χρησιμοποιήσει LLMs για να βοηθήσει με “βασικές εργασίες scripting, συμπεριλαμβανομένων του χειρισμού αρχείων, της επιλογής δεδομένων, των κανονικών εκφράσεων και της πολυεπεξεργασίας, για την πιθανή αυτοματοποίηση ή βελτιστοποίηση τεχνικών λειτουργιών”, σύμφωνα με τη Microsoft.
Μια βορειοκορεατική ομάδα hacking, γνωστή ως Thallium, χρησιμοποιεί LLMs για να ερευνά δημόσια αναφερόμενες ευπάθειες και οργανισμούς-στόχους, να βοηθά σε βασικές εργασίες scripting και να συντάσσει περιεχόμενο για καμπάνιες phishing. Η Microsoft αναφέρει ότι η ιρανική ομάδα γνωστή ως Curium χρησιμοποιεί επίσης LLMs για τη δημιουργία phishing emails και ακόμη και κώδικα για την αποφυγή ανίχνευσης από εφαρμογές antivirus. Κινέζοι χάκερς που συνδέονται με το κράτος χρησιμοποιούν επίσης LLMs για έρευνα, scripting, μεταφράσεις και για να βελτιώσουν τα υπάρχοντα εργαλεία τους.
Υπήρξαν φόβοι σχετικά με τη χρήση της τεχνητής νοημοσύνης σε κυβερνοεπιθέσεις, ιδίως καθώς έχουν εμφανιστεί εργαλεία τεχνητής νοημοσύνης όπως το WormGPT και το FraudGPT που βοηθούν στη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου και εργαλείων παραβίασης. Ένας ανώτερος αξιωματούχος της Εθνικής Υπηρεσίας Ασφαλείας προειδοποίησε επίσης τον περασμένο μήνα ότι οι χάκερ χρησιμοποιούν τεχνητή νοημοσύνη για να κάνουν τα phishing emails τους να φαίνονται πιο πειστικά.
Η Microsoft και η OpenAI δεν έχουν εντοπίσει ακόμη “σημαντικές επιθέσεις” με χρήση LLM, αλλά οι εταιρείες έχουν κλείσει όλους τους λογαριασμούς και τα περιουσιακά στοιχεία που σχετίζονται με αυτές τις ομάδες χάκερ. “Ταυτόχρονα, θεωρούμε ότι αυτή είναι σημαντική έρευνα που πρέπει να δημοσιεύσουμε για να εκθέσουμε κινήσεις σε πρώιμο στάδιο, σταδιακές κινήσεις που παρατηρούμε να επιχειρούν γνωστοί φορείς απειλών και να μοιραστούμε πληροφορίες σχετικά με το πώς τις εμποδίζουμε και τις αντιμετωπίζουμε με την κοινότητα των αμυντικών”, αναφέρει η Microsoft.
Ενώ η χρήση της τεχνητής νοημοσύνης σε κυβερνοεπιθέσεις φαίνεται να είναι περιορισμένη αυτή τη στιγμή, η Microsoft προειδοποιεί για μελλοντικές περιπτώσεις χρήσης, όπως η μίμηση φωνής. “Η απάτη με τεχνητή νοημοσύνη είναι μια άλλη κρίσιμη ανησυχία. Η σύνθεση φωνής είναι ένα παράδειγμα αυτού, όπου ένα δείγμα φωνής τριών δευτερολέπτων μπορεί να εκπαιδεύσει ένα μοντέλο να ακούγεται σαν οποιοσδήποτε”, λέει η Microsoft. “Ακόμη και κάτι τόσο αθώο όσο ο χαιρετισμός του τηλεφωνητή σας μπορεί να χρησιμοποιηθεί για να ληφθεί ένα επαρκές δείγμα”.
Φυσικά, η λύση της Microsoft χρησιμοποιεί την ΤΝ για να απαντήσει στις επιθέσεις ΤΝ. “Η AI μπορεί να βοηθήσει τους επιτιθέμενους να φέρουν μεγαλύτερη πολυπλοκότητα στις επιθέσεις τους και έχουν πόρους για να τις ρίξουν”, λέει ο Homa Hayatyfar, επικεφαλής διευθυντής ανάλυσης ανίχνευσης στη Microsoft. “Το έχουμε δει αυτό με τους 300+ απειλητικούς φορείς που παρακολουθεί η Microsoft και χρησιμοποιούμε την ΤΝ για την προστασία, την ανίχνευση και την αντίδραση”.
Η Microsoft κατασκευάζει ένα Security Copilot, έναν νέο βοηθό AI που έχει σχεδιαστεί για τους επαγγελματίες της κυβερνοασφάλειας για τον εντοπισμό παραβιάσεων και την καλύτερη κατανόηση του τεράστιου όγκου σημάτων και δεδομένων που παράγονται καθημερινά μέσω των εργαλείων κυβερνοασφάλειας. Ο γίγαντας του λογισμικού αναθεωρεί επίσης την ασφάλεια του λογισμικού του μετά τις μεγάλες επιθέσεις στο cloud Azure και ακόμη και τους Ρώσους χάκερ που κατασκοπεύουν στελέχη της Microsoft.
