“Παιδιά δημιουργούν ανήθικες εικόνες άλλων παιδιών χρησιμοποιώντας γεννήτριες εικόνων τεχνητής νοημοσύνης (AI), σύμφωνα με φιλανθρωπικό οργανισμό στο Ηνωμένο Βασίλειο.
Το Κέντρο για τον Ασφαλέστερο Διαδίκτυο του Ηνωμένου Βασιλείου (UKSIC) ανέφερε ότι έλαβε “ένα μικρό αριθμό αναφορών” από σχολεία, αλλά κάλεσε για ενέργεια τώρα πριν το πρόβλημα επεκταθεί.
Δήλωσε ότι τα παιδιά ίσως χρειάζονται βοήθεια για να κατανοήσουν ότι αυτό που δημιουργούν θεωρείται υλικό κακοποίησης παιδιών.
Ο φιλανθρωπικός οργανισμός επιθυμεί οι εκπαιδευτικοί και οι γονείς να συνεργαστούν.
Υπογράμμισε ότι, ενώ οι νέοι ενδεχομένως να ενδιαφέρονται από περιέργεια παρά από πρόθεση να προκαλέσουν βλάβη, είναι παράνομο σε κάθε περίπτωση σύμφωνα με το νόμο του Ηνωμένου Βασιλείου να δημιουργούν, να κατέχουν ή να διανέμουν τέτοιες εικόνες, είτε πρόκειται για πραγματικές είτε δημιουργημένες από την τεχνητή νοημοσύνη.
Δήλωσε ότι τα παιδιά ενδέχεται να χάσουν τον έλεγχο του υλικού και να κυκλοφορήσουν στο διαδίκτυο, χωρίς να συνειδητοποιούν ότι υπάρχουν συνέπειες γι’ αυτές τις ενέργειες. Επίσης, προειδοποίησε ότι αυτές οι εικόνες θα μπορούσαν δυνητικά να χρησιμοποιηθούν για προσπάθειες εκβιασμού.
Το κενό γνώσης
Νέα έρευνα που πραγματοποιήθηκε από την εταιρεία τεχνολογίας για την τάξη, RM Technology, με 1.000 μαθητές, υποδηλώνει ότι λίγο λιγότερο από το ένα τρίτο χρησιμοποιεί την τεχνητή νοημοσύνη “για να δει ανάρμοστα πράγματα στο διαδίκτυο”.
“Η χρήση της τεχνητής νοημοσύνης από τους μαθητές είναι πλέον συνηθισμένη,” είπε η Tasha Gibson, διευθύντρια ασφάλειας στο διαδίκτυο της εταιρείας.
“Πράγματι, η κατανόησή τους για την τεχνητή νοημοσύνη είναι πιο προηγμένη από τους περισσότερους δασκάλους – δημιουργώντας ένα κενό γνώσης. Αυτό καθιστά όλο και πιο δύσκολο το να προστατεύσουμε τους μαθητές στο διαδίκτυο και να αποτρέψουμε την κατάχρηση.
“Με την τεχνητή νοημοσύνη να αναμένεται να αυξηθεί στη δημοφιλία, η κλειστήρια αυτού του κενού γνώσης πρέπει να γίνουν μία από τις κύριες προτεραιότητες.”
Επίσης, βρέθηκε ότι οι δάσκαλοι είχαν διχασμένες απόψεις σχετικά με το εάν θα έπρεπε να είναι ευθύνη των γονέων, των σχολείων ή των κυβερνήσεων να διδάσκουν τα παιδιά για τις βλάβες που προκαλεί τέτοιο υλικό.
Το UKSIC επιθυμεί μια συνεργατική προσέγγιση, με τα σχολεία να συνεργάζονται με τους γονείς.
“[Χρειαζόμαστε] να δούμε βήματα που πρέπει να γίνουν τώρα, πριν τα σχολεία γίνουν υπερβολικά φορτωμένα και το πρόβλημα μεγαλώσει,” είπε ο διευθυντής του UKSIC, David Wright.
“Οι νέοι δεν είναι πάντα ενήμεροι για τη σοβαρότητα των πράξεών τους, ωστόσο αυτού του είδους οι βλαβερές συμπεριφορές πρέπει να προβλέπονται όταν νέες τεχνολογίες, όπως οι γεννήτριες τεχνητής νοημοσύνης, γίνονται πιο προσβάσιμες στο κοινό.
“Μια αύξηση στο περιεχόμενο εγκληματικής φύσης που δημιουργείται στα σχολεία είναι κάτι που δε θέλουμε να δούμε ποτέ, και πρέπει να γίνουν άμεσα παρεμβάσεις για να αποτραπεί αυτή η εξάπλωση.”
Η Victoria Green, διευθύντρια της Marie Collins Foundation – μια φιλανθρωπική οργάνωση που βοηθά παιδιά που έχουν πληγεί από σεξουαλική κακοποίηση – προειδοποίησε για την “διαιωνιστική” ζημιά που θα μπορούσε να προκληθεί.
“Οι εικόνες ενδέχεται να μη δημιουργήθηκαν από παιδιά με σκοπό να προκαλέσουν βλάβη, αλλά, αφού κοινοποιηθούν, αυτό το υλικό μπορεί να πέσει στα λάθος χέρια και να βρεθεί σε αφιερωμένες ιστοσελίδες κακοποίησης.
“Υπάρχει πραγματικός κίνδυνος οι εικόνες να χρησιμοποιηθούν περαιτέρω από δράστες σεξουαλικών εγκλημάτων για να ντροπιάσουν και να αποσιωπήσουν τα θύματα.”
Οι κίνδυνοι των εφαρμογών “απογύμνωσης” Η δυνατότητα της τεχνητής νοημοσύνης να μετατρέψει παιδιά σε πηγές ακραίου περιεχομένου αποδείχθηκε τον Σεπτέμβριο από μια εφαρμογή που δημιουργεί την εντύπωση ότι έχει αφαιρέσει τα ρούχα κάποιου σε μια φωτογραφία.
Χρησιμοποιήθηκε για να δημιουργήσει ψεύτικες γυμνές εικόνες νεαρών κοριτσιών στην Ισπανία, με περισσότερα από 20 κορίτσια, ηλικίας από 11 έως 17 ετών, να βγαίνουν μπροστά ως θύματα.
Οι εικόνες είχαν κυκλοφορήσει στα μέσα κοινωνικής δικτύωσης χωρίς τη γνώση τους. Μέχρι στιγμής δεν έχουν ασκηθεί κατηγορίες εναντίον των αγοριών που δημιούργησαν τις εικόνες.
Οι λεγόμενες εφαρμογές “απογύμνωσης” άρχισαν να εμφανίζονται σε κοινωνικά δίκτυα το 2019, συχνά στην υπηρεσία μηνυμάτων Telegram ως αυτοματοποιημένο λογισμικό με χαρακτηριστικά τεχνητής νοημοσύνης – επίσης γνωστό ως bots.
Αρχικά πολύ απλοϊκές, οι βελτιώσεις στην παραγωγική τεχνητή νοημοσύνη έχουν επιτρέψει σε εφαρμογές – όπως αυτή που χρησιμοποιήθηκε στην Ισπανία – να γίνουν πολύ πιο αποτελεσματικές στη δημιουργία φωτορεαλιστικών ψεύτικων γυμνών εικόνων.
Το ισπανικό bot έχει σχεδόν 50.000 συνδρομητές – υποδηλώνοντας ότι έχει τόσους χρήστες, οι οποίοι πληρώνουν αμοιβή για τη δημιουργία εικόνων, συνήθως μετά από τη δυνατότητα να φτιάξουν αρκετές δωρεάν.
Η BBC ζήτησε σχόλια από τον δημιουργό του bot αλλά αυτός αρνήθηκε να δώσει απάντηση.
Ο Javaad Malik, ένας ειδικός στην κυβερνοασφάλεια στην εταιρεία ασφάλειας των πληροφοριών KnowBe4, δήλωσε στο BBC ότι γίνεται όλο και πιο δύσκολο να διακριθεί ανάμεσα σε πραγματικές και σε εικόνες που δημιουργήθηκαν από τεχνητή νοημοσύνη, μια τάση που ενθαρρύνει τη χρήση των εφαρμογών “απογύμνωσης”.
“Δυστυχώς, έχει μαζική έλξη, οπότε η τάση απλά αυξάνεται και βλέπουμε πολλές δραστηριότητες παρόμοιες με εκδίκηση μέσω πορνογραφικού υλικού, όπου οι πολιτιστικές ή θρησκευτικές πεποιθήσεις προκαλούν πολλά προβλήματα για τα θύματα,” είπε.
