Το Internet Watch Foundation (IWF) εντόπισε σε dark web forums, εικόνες γνωστών ηθοποιών και τραγουδιστών ως παιδιά, να μοιράζονται μεταξύ παιδόφιλων με τη βοήθεια τεχνητής νοημοσύνης που πολλές φορές μετατρέπει αυτές τις εικόνες και σε σεξουαλικές. Εκατοντάδες εικόνες επίσης πραγματικών θυμάτων παιδικής κακοποίησης δημιουργούνται από AI.
Το IWF προσπαθεί να αφυπνίσει τον κόσμο για τον αυξανόμενο κίνδυνο όπου οι παιδόφιλοι χρησιμοποιούν AI συστήματα για να δημιουργήσουν εικόνες από απλές γραπτές εντολές.
Είχε ήδη προειδοποιήσει πως από τότε που τα πανίσχυρα συστήματα παραγωγής εικόνων έγιναν ευρύτερα διαθέσιμα στο κοινό, είχαν τη δυναμική να καταχραστούν ώστε να παράγουν παράνομες εικόνες.
- Οι αναλυτές προειδοποιούν πως υπάρχει ένα νέο trend στους παιδόφιλους, όπου παίρνουν μία φωτογραφία γνωστών θυμάτων παιδικής κακοποίησης και έπειτα αναπαράγουν πολλές περισσότερες με διαφορετικά σεξουαλικά θέματα.
Ένας μόνο φάκελος που εντοπίστηκε περιείχε 501 εικόνες ενός πραγματικού θύματος το οποίο ήταν 9 ετών όταν κακοποιήθηκε. Στο φάκελο υπήρχε και ένα ρυθμισμένο AI μοντέλο το οποίο θα επέτρεπε σε άλλους παιδόφιλους να παράγουν περισσότερες εικόνες του θύματος.
Το IWF τονίζει πως οι εικόνες είναι εξαιρετικά ρεαλιστικές και ένα ανεκπαίδευτο μάτι δεν μπορεί να τις ξεχωρίσει από τις πραγματικές.
Οι ερευνητές είδαν εικόνες κυρίως γυναικών ηθοποιών και τραγουδιστριών, οι οποίες είχαν μετατραπεί σε παιδιά χρησιμοποιώντας ειδικό software. Από τις 11.108 AI εικόνες που ερεύνησε το IWF, οι 2.978 απεικόνιζαν πραγματικά θύματα παιδικής κακοποίησης, οι 1.372 απεικόνιζαν παιδιά 7-10 ετών και 143 απεικόνιζαν παιδιά ηλικίας 3-6 ετών.
Οι χειρότεροι εφιάλτες μας έγιναν πραγματικότητα. Νωρίτερα μέσα στη χρονιά προειδοποιήσαμε πως η AI απεικόνιση σύντομα δε θα ξεχωρίζει από τις πραγματικές εικόνες παιδιών που υποφέρουν από παιδική κακοποίηση και πως θα αρχίσουμε να βλέπουμε τέτοιες εικόνες σε πολύ μεγαλύτερους αριθμούς. Τώρα ξεπεράσαμε αυτό το σημείο.
Παρόλο που οι AI εικόνες δεν προκαλούν απευθείας κακό στα παιδιά, το IWF τονίζει πως θα κανονικοποιήσει την παιδοφιλική συμπεριφορά και θα στερήσει πόρους από την αστυνομία η οποία θα ερευνά παιδιά τα οποία δεν υπάρχουν. Επιπλέον, το IWF βρήκε εκατοντάδες εικόνες δύο κοριτσιών οι οποίες έκαναν μία μη-γυμνή φωτογράφιση σε ένα πρακτορείο μοντέλων, οι οποίες επεξεργάστηκαν με AI για να μετατραπούν σε σεξουαλικές σκηνές κακοποίησης.
